2012년 첫 무인드론 무기 등장
예멘 후티반군 사우디 아람코에 지속적 공격
미국, 윤리적 접근보다 중국·러시아 견제 주력
AI 위원회 ‘AWS 중요성’ 강조하는 보고서 제출
“AWS 오류 가능성 충분히 논의돼야 한다”
# 드론이 실제 전쟁에 처음 투입된 것은 지난 2012년이다. 영국군이 아프가니스탄 전선에서 사용했다. ‘블랙 호넷 나노’라는 이름의 드론의 활동반경은 최대 800m, 최고 시속은 35km였다. 비행 가능한 시간은 약 30분. 블랙 호넷 나노에는 초소형 카메라가 장착돼 조종자가 드론의 움직임을 원격으로 조종할 수 있었다. 또 GPS를 통해 자동으로 움직이기도 했다.
# 지난 7일(현지시간) 예멘 반군 후티가 사우디아라비아 국영석유회사 아람코의 석유시설을 향해 드론 12대와 탄도미사일 2발로 공격을 개시했다. 앞서 후티는 2019년 9월 아람코 석유시설 2곳에 10여 대의 공격용 드론을 날려 원유시설 50%가 손상되기도 했다. 이들 드론의 총 가격은 한화로 1억원 남짓. 반면 아람코는 이 공격으로 570만 배럴이 감소하면서 수조원대 피해를 입었다.
당시 후티의 공격은 인간 조종사 없이도 나는 무기만 여러 대 띄워 공격결과를 최대치로 끌어올리는 군집드론의 첫 성공사례로 주목받았다. 해상, 지상을 가리지 않고 공중을 돌며 활약하는 군집지능로봇(Swarm Intelligence Robot) 개발에 신호탄이 된 셈이다.
미래 각 주요 산업을 관통하는 핵심 키워드는 자율화(Autonomous)다. 현대차와 테슬라를 비롯한 자동차제조업체는 자율주행차 개발 경쟁 중이고, UPS·월마트 등은 드론을 이용한 배송 상용화를 가속화하고 있다. 이같은 자율화는 군사분야에서도 활발한 연구 중심에 있는데, 이른바 자율무기체계(AWS)라고 불린다. 세계 최고 군사 강대국인 미국을 포함한 서방국가에서는 현재 그 연구개발(R&D)이 한창 진행 중이다.
AWS는 첨단기술을 접목해 군사력을 효율적으로 강화시킨다는 큰 이점이 있다. 그러나 동시에 윤리 문제가 뒤따라온다. 인간의 지시를 벗어나 예측하기 어려운 결과를 초래할 수 있다는 ‘시스템 오류’가 발생할 가능성도 존재한다. AWS 개발과 발전이 거듭될수록 커져가는 윤리적 딜레마, 그 외 문제점도 깊이 생각해 볼 필요가 있다.
흔히들 자율화와 자동화를 혼돈해 생각하는데 이는 다른 개념이다. 군사용 무인차량을 한 예로 들어보면 이해가 쉬워진다. 이 차량에 자동화 장치가 탑재됐다면 제어역할을 하는 인간 운용자가 지정한 경로대로 스스로 주행해 갈 것이다. 그러나 자율화 무인차량이라면 운용자는 최종 목적지를 제시하고, 거기까지 가는 주행경로는 차량이 직접 판단해 움직인다. 자율화 기능이 장착된 무기일수록 인간의 통제정도에 따라 여러 단계로 나뉜다.
AWS는 ▲관측(Observe) ▲판단(Orient) ▲결심(Decide) ▲행동(Act)을 통합해 ‘OODA Loop(고리)’라는 용어로 정의할 수 있다. 이 고리라는 큰 틀 안에서 인간이 어디까지 제어하느냐를 두고 ▲인간의 개입과 통제가 행사되는 ‘Human in the Loop’ ▲인간이 감독역할만 담당하는 ‘Human on the Loop’ ▲AWS에 완전한 자율성이 발휘되는 ‘Human out of the Loop’ 등 세 가지 단계로 구분된다.
미국은 군사과학기술의 선두국가로, 지난 2014년 말 척 헤이글(Chuck Hagel) 당시 국방장관이 제 3차 상쇄전략(Third Offset Strategy)을 제시했다. 3차 상쇄전략에서 말하는 핵심은 인간과 자율학습체계(AI)가 협업해 의사결정을 내리는 자율무기체계(AWS) 개발이었다. 궁극적 목표는 AI, 빅데이터, 로봇 등 4차산업혁명 기술을 선점해 중국·러시아 등 경쟁국보다 앞서는 것이다.
이같은 계획에 맞춰 국방부 산하 고등군사연구계획국(DARPA, 다르파)은 군집로봇을 훈련시키는 한 방법으로, 게임에 능숙한 사람들의 뇌파를 이용하고 있다. 실험에 참여하는 이들은 뇌전도 헤드셋을 착용한 후 스타크래프트, 스텔라리스 등 전략 게임을 진행한다. 연구진은 실시간으로 게이머들의 뇌 활동을 데이터화 해 저장한다. 이렇게 축적한 데이터는 군집로봇이 실전에 투입될 때를 대비한 것.
한국도 미국과 마찬가지로 국방전략기술 8대 분야를 새롭게 정립해 지난해 3월 약 3300억원을 투입하기로 했다. 8대 분야는 ▲AI·자율 기반 감시정찰 ▲초연결 지능형 지휘통제 ▲초고속·고위력 정밀타격 ▲스텔스(상대 레이더망에 포착되지 않는 ‘은폐기술’) 기반 플랫폼 ▲유·무인 복합 전투수행 ▲첨단기술 기반 개인전투체계 ▲사이버 능동대응·미래형 방호 ▲미래형 첨단 신기술 등이다.
지난해 8월 한국 국방과학연구소가 공개한 첨단기술 무기 소개 영상. (출처=국방TV).
미국은 현재 AWS 문제점에 초점을 맞추기보다 개발을 가속화하는 모양새다. 중국과 디지털·무역 등 전 산업분야에 걸쳐 패권경쟁을 벌이고 있는 것이 주요 원인으로 꼽힌다. 이달 초 미국 내 ‘AI 국가안보위원회’는 보고서를 제출해 조 바이든 대통령에게 “미국과 동맹국들은 AWS를 더욱 활용해 효율적 군사대응을 구축해야 한다”고 촉구했다. 2030년 AI 선두국가가 되겠다는 중국의 야망을 저지하는 것이 급선무라는 해석이다.
이 위원회는 에릭 슈미트 전 구글 최고경영자와 로버트 워크 전 국방부 장관 등 AI·군사 관련 최고 권위자로 구성됐다. 이들은 약 750페이지에 달하는 보고서를 통해 “윤리적 문제에 사로잡혀 AI 기반 자율무기 개발에 손을 놓는다면, 그 사이 적국(중국·러시아)에 군사력이 역전될 것”이라고 강조했다. 그러면서 “AI를 이용하지 않고 AI 기반 자율무기를 사용하는 적국을 상대한다면 그것이야 말로 크나큰 재앙”이라고 경고했다.
보고서가 백악관과 의회에 제출됐다는 소식 이후 학계에서는 우려의 목소리가 거세졌다. 영국 셰필드대 인공지능로봇공학부 교수이자 킬러로봇 금지 단체에서 대변인을 맡고 있는 노엘 샤키는 “과학자들조차 함부로 개방을 말하지 못하는 AWS에 대해 군사적 보급만을 강요하는 무서운 보고서”라고 비판했다.
보고서에는 담기지 않았지만 AWS에는 분명한 단점이 존재한다. 첫째로 AWS에 접목되는 여러 기술은 민간분야에서도 손쉽게 적용이 가능한 것들로, 확산력이 재래식 무기보다 높다. 두 번째로는 오작동의 가능성이다. 김상배 서울대 정치외교학부 교수는 “인간이 설계한 AI가 해킹 등으로 인해 다른 방식으로 상황을 인식·대응해 또 다른 분쟁을 초래할 수도 있다”고 밝혔다.
또 실전에서 아군과 적군을 명확히 구분해 공격해야 하는 점도 AWS의 기본원칙이다. 이를 놓친 순간의 오류 상황도 무시할 수 없는 가정이다. 그로 인한 예상 외 사상자 피해 발생 책임을 국가가 어떻게 져야 하는지에 관한 논의도 AWS 보급에 앞서 이루어져야 할 것이다.
각국의 군사분야에서 AWS가 보급되면 될수록 윤리적 문제에서 자유로울 수는 없다. 이를 해결하는 간단한 방법은 절대 없다. 첨단기술을 군사력에 도입해 경쟁력을 갖추려는 움직임도 중요하지만 각국 수장들이 한데 모여 문제의식을 바탕으로 한 정책연구가 우선이 아닐까. 국가안보와 인도주의 사이에서 AWS는 인간에게 새로운 딜레마를 제시하고 있다.
AI타임스 박혜섭 기자 phs@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com