AI안보위, 미국은 AI 전쟁 대비 방안 찾아 최적 상태 구축 강조
AI 자율 무기 지원, JAIC 활성화, 레드팀, R&D 투자 권고
한국 AI 국방 도입 상황…AI 디지털 군환경 조성이 우선

"미국의 적대국가들은 AI 시스템을 새로운 공격 대상으로 규정했다."

"미국의 기업과 연구소에서는 빅데이터 복제 등으로 소프트웨어 결함을 악용해 AI 시스템을 속이고, 조작하고, 손상시키고, 비효율적으로 만드는 사이버 공격들을 문서화했다. 이에 따라 전쟁에 대한 패러다임도 바뀌고 있다."

(사진=셔터스톡)
(사진=셔터스톡)

지난 1일 미국 의회에 제출된 '인공지능에 관한 국가안보위원회(NSCAI)의 최종 보고서'에 따르면 다양한 사이버 전쟁이 미국을 위협하고 있다고 보고했다.

AI를 통한 사이버 공격, 스파이 활동, 심리적 정치전쟁 등 위험에 노출됐으며, 보험 등 금융 수단을 사용한 개인정보 유출과 데이터 보완문제로도 고심하고 있는 것으로 알려졌다.

특히 미국은 개인 유전 정보를 외국인이 획득하는 것과 관련해 AI 생명공학 분야에서 위험하게 사용될 수 있어 주의할 것을 경고했다. 이와 연관해 베이징 게놈 연구소(BGI, Beijing Genome Institute)와 협력하고 있는 중국 정부를 경계할 것을 적시했다. 

[관련기사] AI가 DNA 만든다! GAN 기반 인공게놈 등장..."복제에 불과"비판도

베이징 게놈 연구소(BGI)

중국 정부가 만든 최초의 '국가 유전자 저장 은행'(CNGB, China National Gene Bank)을 운영하는 대규모 국제 유전학 연구 센터로서 '인간 게놈 프로젝트'에 참여하기 위해 1999년 창립됐다.

유전 관련 데이터를 제공하는 COVID-19 실험의 주요 글로벌 공급 업체다. 지난해 6월 말까지 미국을 포함한 180개국에 3500만개 이상의 COVID-19 테스트 키트를 공급, 18개국에 58개의 연구소를 설립했다. 

미국은 이같은 AI 공격에 대응할 수 있는 인력 양성, 디지털 신기술 개발과 채택, 군네트워크 확장 및 통제방법 변경 등으로 미국 국방부(DoD, Department of Defense)를 AI 전쟁에 대비하는 최적의 상태로 빠르게 움직일 것을 권고했다. 

756페이지의 NSCAI 보고서에 나온 AI 시대 위협에 대한 미국의 방어 대책 방안을 다음과 같이 나눠 설명했다.

AI 자율 무기 시스템 지원

NSCAI보고서는 AI 전쟁 관련 자율 무기시스템을 지원, 사용하는 방법을 상세하게 제안했다.

첫 번째, 미국 군사령관이 자율무기 사용을 승인한 경우 적절하게 설계되고 시험된 AI 지원 자율 무기 시스템이 국제인도법(IHL, international humanitarian law)에 맞는 방식으로 계속 사용될 수 있다.

두 번째, 국방부의 기존 절차는 안전하고 신뢰할 수 있는 AI 지원 및 자율 무기 시스템을 배치하고 국제인도법에 맞는 범위 내에서 보장된다.

세 번째, 미국 경쟁국들이 AI 지원 및 자율 무기 시스템을 책임감있게 설계하고 합법적으로 사용되도록 보장하기 위해 엄격한 절차를 밟고 있다는 증거는 거의 발견되지 못했다.

네 번째, 위원회는 AI 지원 및 자율 무기 시스템에 대한 전세계적인 제재나 금지는 지지하지 않는다.

국제인도법(IHL)

국내분쟁을 포함한 모든 무력분쟁에 적용, 전투력을 상실하거나 갖고 있지 않는 개인 모두를 보호대상으로 규정한다. 인도적인 원칙을 기준으로 무력분쟁의 전략ㆍ전술적 조건을 규제하고 개인의 인권보호와 존엄의 유지를 확보하고자 하는 국제법규의 총칭이다.

단, 국제인도법은 무력충돌이라는 긴급한 상황에서 적용되는 법이기 때문에 강제 집행만으로 분쟁 해결이 부적절한 경우 국제법원이 후견적 입장에서 집행에 관여할 장치를 마련하는 일이 다른 법에 비해 상당히 큰 어려움이 있다. 

[관련기사] 美 AI국가안보위원회, "AI 자율무기 개발은 도덕적 의무다"

미 국방부 공동 인공 지능 센터 활성화

미 국방부 공동 인공 지능 센터(JAIC, Joint AI Center)는 국가 간 국방 협력의 미래에 영향을 미칠 인공 지능에 대한 공동의 이해와 국방 및 보안 맥락에서 AI의 책임감 있는 사용을 장려하는 미 국방부 중심의 공동체다. 

AI 윤리 구현에 대한 공유 이익 및 모범 사례를 발전시키기 위해 국가를 조율하고, 협력을 촉진해 AI 정책에 대한 전략적 통신을 조정하는 협업화된 환경도 구축한다.

JAIC는 군사 및 방위 기관을 강화하기 위해 국제 AI 동맹국과 '국가 방어를 위한 파트너십'(PfD, Partnership for Defense)을 지난해 9월, 올해 1월 두차례에 걸쳐 개최했다. 이 회의에는 미국과 대한민국, 호주, 캐나다, 덴마크, 에스토니아, 핀란드, 프랑스, ​​이스라엘, 일본, 노르웨이, 스웨덴, 영국 총 13개국 국방 대표단이 참석했다. 

AI 인재 조직 '레드팀' 구성

NSCAI는 중국, 러시아 등 적대국가의 카운터 AI를 막기 위해 미 국방부와 미 국가정보국(ODNI) 등의 AI 개발에 적용할 수 있는 강력한 '레드 팀'(RedTeam)을 구성해야 한다고 권고했다. 레드 팀은 조직 내 전략을 점검, 보완하기 위해 취약점을 발견, 공격하는 역할을 부여받은 팀을 말한다.

'적대적 AI(AI Assurance)'는 AI 시스템 방어에 관한 용어다. AI 애플리케이션을 보호하고 방어하는 것을 적대적 AI로 부른다. 반면 AI의 각 기술 구성 요소를 공격하는 것을  '카운터 AI(Counter AI)'라 한다.

AI의 전문 기술을 가진 중국 등 다른 나라의 이민자들로 인재를 강화하고, AI 신기술을 가진 스타트업 회사에서 인재도입과 양성에 힘쓸 것을 강조했다.

전 미 국방부장관 미셀 플러노이(Michèle Flournoy)의 보고서에도 시뮬레이션된 운영 환경에서 현실적으로 적의 공격을 모방할 수 있는 기술 및 정보 전문 지식을 모두 갖춘 독립적인 레드 팀이 조직돼야 한다고 나와 있다.

AI R&D에 자금 투자

이번 보고서는 미 국방부가 AI와 같은 신기술을 우선으로 지원해 미래의 군사 능력을 지원할 수 있는 AI R&D에 자금을 투자해야 한다고 강조했다. 군부서는 예산의 3.4% 이상을 과학 및 기술에 지출해 매년 최소 80억 달러를 AI R&D에 할당해야 한다는 주장이다.

그 중 현재 AI R&D 자금 1% 미만이 AI 시스템을 보안하는 데 사용되고 있는 것으로 추정했다. 이는 기계 학습 시스템이 사이버 공격에 취약해있음을 보여준다. 현재 적대적 AI를 통해 AI 시스템을 보호하기 위해 AI R&D 투자가 필요한 실정이다.

그렇다면 한국의 AI 국방 도입 상황은 어떨까?

한국도 미국의 상황과 크게 다르지 않을 것으로 보인다. 작년 5월 한국국방연구원(KIDA)은 국방논단에서 '국방에서의 AI 적용, 미국 사례와 알아야 할 몇 가지'를 발행했다. 

이에 따르면 미국과 마찬가지로 국방 분야에서 AI 적용이 기술변화를 파악하고 아이디어를 발굴하는 것을 넘어 AI 기술로 디지털 군환경을 완벽하게 구축하는 것이 더 중요하다고 강조하고 있다.

AI 관련 기술적 종속과 국가안보 위협에 대해서 체계적으로 대응하기 위해 AI 기술로 군환경을 구축하는 것이 우선적으로 더 중요하는 의견이다. 더 높은 신뢰성이 요구되는 국방 분야인 만큼 설명가능성(explainability), 일관성, 데이터와 알고리즘의 확인/검증(V&V) 수준을 높인 AI 적용 체계에 맞는 R&D 투자가 이루어져야 한다고 주장했다.

작년 국방부는 신속시범획득사업을 추진, 예산 300억원을 투입한 바 있다. 신속시범획득사업은 군 당국에서 AI, 드론, 로봇, 증강·가상현실(AR·VR) 등 4차 산업 혁명과 관련된 기술을 적용한 제품을 선 시범 운용 후 신속하게 도입하는 사업이다.

이에 대한 연장선으로 올해 1월 군 드론 운영시 수집, 저장, 송수신되는 정보에 대한 안전성과 보안성을 확보하는 ‘국방 드론 보안 가이드라인’을 발간했으며, LIG그룹 계열사에서 공동 개발중인 직충돌형 소형 드론도 올해 안으로 군에 시범 배치될 예정이다.

또 올해 국방부는 4차 산업혁명 관련된 기술을 모든 국방 분야에 적용할 ‘스마트 국방 혁신’을 추진, 육군 스마트 부대, 해군 스마트 항공기지, 공군 스마트 비행단 구축을 위해 1552억 원의 예산을 투입한다.

 
AI타임스 이하나 기자 22hnxa@aitimes.com

[관련기사] AI발 이념 전쟁? 구체화되는 미국 · EU 동맹

[관련기사] 美 AI안보위, AI 무기 강화 등 촉구…中 견제 나선다

키워드 관련기사
  • 농가에 부는 ‘스마트’ 바람‥청년 농업인 유입에 탁월
  • 도전하는 개발자들이 모인다...AWS, 모형 자율주행차 경주 대회 ‘딥레이서’ 2021
  • [광주에 둥지를 튼 AI 기업] 채은경 유클리드소프트 대표 "사람을 이롭게 하는 기술로 소통‧연대‧상생할 것"