현재 군사강국들이 자동화된 전장 의사결정 시스템인 ‘로봇 지휘관’을 개발하는 등 AI는 전쟁의 양상을 크게 바꿀 전망이다. photo 게티이미지

'초지능 컴퓨터가 인간을 살해'하는 끔찍한 장면에 대한 두려움은 오래전부터 대중들의 상상력을 사로잡았다. 일례로 1983년 개봉된 영화 '워게임(War Games)'의 하이라이트는 WOPR(전쟁작전계획대응·와퍼)로 알려진 슈퍼컴퓨터가 미국·소련 간 지구종말을 부를 핵전쟁을 일으킬 뻔하는 장면이다. 영화에서는 이 위기를 10대 해커가 마지막 순간에 가까스로 무력화시킨다. 한때 슈퍼컴퓨터가 인간을 죽일 수 있다는 개념은 공상과학 소설의 영역에 국한되어 있었지만, 지금 그런 일은 현실 세계에서 벌어질 수 있는 분명한 가능성이 되었다.

군사 강국들 '로봇 지휘관' 개발 박차

미국뿐 아니라 중국·러시아·영국 등을 비롯한 주요 군사 강국들은 다양한 '자율' 또는 로봇 전투장비를 개발하는 외에 자동화된 전장 의사결정 시스템인 '로봇 지휘관'을 만들기 위해 서두르고 있다. 머지않은 미래의 전쟁에서 실전에 배치된 이러한 AI 기반 시스템은 병사들에게 적군을 언제·어디서·어떻게 사살할지에 대한 전투 명령을 내릴 수 있을 것이다. 최악의 시나리오에 의하면, 핵무기에 대한 최종 통제권을 행사한 '로봇 최고사령관'이 핵전쟁을 일으켜 인류의 멸망을 초래할지도 모른다.

AI의 통제를 받는 기계가 대부분의 비즈니스·산업·전문직에서 인간을 체계적으로 대체하는 세상은 상상만 해도 소름이 돋는다. 저명한 컴퓨터과학자들이 경고하듯, AI에 장악된 시스템은 치명적 오류와 괴이한 '환각'을 일으켜 재앙적 결과를 초래할 수 있다. 하지만 초지능 기계의 확산으로 벌어질 수 있는 더욱 위험한 시나리오는 '비(非)인간 실체들(nonhuman entities)'이 서로 싸우고, 그 과정에서인간 생명이 '부수적 피해'를 입을 수도 있다는 가능성이다.

미래전쟁 전문가인 피터 싱어는 지난 4월 14일 '디펜스원(Defense One)'에 게재한 기고문에서 "AI 혁명이 이미 시작되었다"고 경고했다. 그는 미 국방부가 필독도서로 꼽은 '유령함대(Ghost Fleet)' '와이어드 포 워(Wired for War)' 같은 베스트셀러의 저자이기도 하다. 싱어의 분석에 의하면 최근 수개월 동안 전장에서는 지금까지 공상과학소설 속에 머물던 장면이 마침내 현실화되기 시작했다.
 

이스라엘군은 AI 기반의 ‘라벤더’ 프로그램으로 자신들이 공격할 팔레스타인 무장세력을 찾아내고 있다. photo Theverge.com

우크라이나가 개발 중인 완전자율 드론

일례로 우크라이나 전장의 최전선에는 "자율적으로 64가지 유형의 러시아 '군사 표적'를 찾아 식별 및 공격할 수 있는" 우크라이나제 신형 '사커 스카우트(Saker Scout)' 쿼드콥터를 포함한 수천 대의 드론이 하늘을 가득 메우고 있다. 원래 '사커'는 농작용으로 개발된 드론인데 지금은 우크라이나가 완전 자동화된 방식으로 군사 표적을 독립적으로 탐지·표적화·공격할 수 있는 AI 기반의 완전자율 드론으로 개발하고 있다. 특히 이 드론은 사람의 감독을 받지 않고 작동하도록 설계되어 러시아의 전파방해로 다른 드론들이 제대로 작동되지 못하는 지역에 투입되고 있다.

한편 이스라엘은 하마스의 10·7테러에 대한 보복으로 새로운 형태의 '알고리즘 전쟁'을 벌이고 있다. 이스라엘군(IDF)은 '가스펠(Gospel)'로 불리는 AI 기반 시스템을 활용하여 드론이 촬영한 영상으로부터 미세한 지진파(地震波) 수치까지 수백만 건의 데이터를 체계적으로 분석 중이다. 이를 활용해 가자지구에서 공습 또는 포격으로 파괴시켜야 할 건물을 골라내고 있다.

2021년 말 영국 해군은 미국의 거대 IT기업인 마이크로소프트(MS)와 아마존웹서비스(AWS)에 "더 나은 전쟁수행 방법이 없을까?"라는 질문을 던졌다. 보다 구체적으로는 "카리브해의 가상 특공대 공격팀과 프리깃함의 미사일 시스템을 보다 효과적으로 조율할 수 있는 방법을 찾을 수 있을까"를 물은 것이다.

이 문제를 놓고 MS·AWS는 거대 방산기업인 BAE시스템즈와 신생 업체인 안두릴(Anduril)을 비롯한 여러 군수업체들과 협력했다. 이들 컨소시엄은 국방조달 업계에서는 상상할 수 없을 정도로 빠른 12주 만에 영국 서머싯에 모여 '스톰클라우드(Storm Cloud)'로 명명된 시연을 진행했다. 시연에서 지상의 해병대원, 공중의 드론 및 기타 여러 센서들이 첨단 무선망으로 구성된 '메시 네트워크'를 통해 연결되어, 다른 곳에서 일어나는 상황을 간단없이 정확하게 파악할 수 있었다.

수집된 데이터는 번지 케이블(bungee cables)로 특공대 차량에 연결된 소형 컴퓨터의 네트워크 '엣지'와 위성을 통해 멀리 떨어진 클라우드 서버로 전송 및 처리되었다. '엣지'는 '엣지 컴퓨팅'의 줄임말로, 응답시간 단축 및 대역폭 절약을 위해 데이터가 생성된 장소와 가까운 거리에서, 여러 네트워크 노드를 통해 데이터를 처리·분석·저장하는 것을 말한다. 이는 대개 클라우드 컴퓨팅과 반대되는 개념이다. 스톰클라우드에서 지휘·통제 소프트웨어는 지정된 지역 모니터링, 어떤 드론을 어디로 투입할 것인지에 대한 결정, 지상의 물체 식별, 어떤 무기로 어떤 표적을 공격할 것인지 판단 등에서 '인상적'인 성과를 보였다.

시연에 참여한 어느 영국군 장교는 드론 같은 센서와 미사일 같은 무기가 디지털 네트워크 및 소프트웨어와 함께 연결되어 데이터를 주고받는 모습을 '메시(그물망)'로 표현하면서 스톰클라우드를 "세계에서 가장 진보된 킬체인"으로 평가했다.

현재 AI는 다양한 형태로 전쟁의 모든 측면과 불가분의 관계를 맺고 있다. 대개 군에서 AI는 인적자원 관리, 유지·보수, 물류, 인사 등 반복적·일상적 업무부터 시작된다. 미국 싱크탱크인 랜드연구소(RAND)의 최근 연구에 따르면 미 공군은 AI를 활용하여 A-10C 전투기의 정비 시기를 예측하고 고장과 부품 과잉재고를 방지함으로써 매달 2500만달러를 절약할 수 있는 것으로 나타났다. 물류는 또 다른 유망 분야다. 일례로 미 육군은 알고리즘을 사용하여 우크라이나 곡사포에 새 포신이 필요한 시기를 예측하고 있다. 인사관리 분야에도 AI가 도입되기 시작했다. 육군은 14만명의 인사 파일로 학습시킨 모델을 적용하여 병사의 승진 점수를 매기는 데 도움을 주고 있다.

한결 극단적인 상황도 벌어지고 있다. 예컨대 러시아·우크라이나는 전파방해로 조종사·드론 간 연결이 단절되더라도 드론이 "자율적으로 목표물로 날아가 명중시킬 수 있는" 소프트웨어 개발을 서두르고 있다. 쌍방 공히 대개 이런 목적으로 100달러 정도의 저렴한 소형 칩을 사용한다. 우크라이나에서 촬영된 드론공격 영상에는 목표물을 식별한 드론이 표적(목표물)에 '록온(정조준)' 상태를 유지하고 있음을 암시하는 '바운딩 박스(bounding boxex)'가 주변에 나타나는 장면이 흔히 등장한다. '바운딩 박스'는 사실적 시각화를 위해 표적 주위에 형성된 작은 모양의 '박스(네모)'들을 가리킨다.

이코노미스트(Economist)는 지난 6월 20일 'AI가 어떻게 전쟁을 변화시키고 있나?'라는 제목의 분석기사에서 '변혁적 삼위일체(transformative trinity)'라는 재미있는 개념을 제시했다. 전문가들은 드론이 가장 '변혁적' 가능성을 보이지만 그 자체로는 전쟁을 변화시키기는 고사하고 되레 혼란을 야기할 뿐이라고 주장한다. 그러나 드론이 '스톰클라우드'로 불리는 디지털화된 지휘·통제 시스템, '새로운 시대의 메시 네트워크'와 결합되면 '변혁적 삼위일체'가 완성된다. 이렇게 되면 최전방에 위치한 군인들은 지금까지 본부·사령부에만 제공되었던 정보를 실시간으로 보면서 조치할 수 있다.

'삼위일체'의 필수 전제조건은 AI다. 미국은 2017년 아프가니스탄과 이라크에서 드론으로 촬영한 사진·동영상의 홍수를 처리하기 위해 '프로젝트 메이븐(Project Maven)'을 시작했다. 이 프로젝트를 관장하는 미국 국가지리정보국(NGIA) 국장은 지난 5월 "메이븐이 이미 전투원들의 요구 조건을 충족시키는 대량의 AI 기반 이미지·동영상·데이터 등을 생산하고 있다"고 언급했다. 프로젝트 메이븐의 목표는 "인간 수준의 탐지·분류·추적 능력을 충족 또는 능가하는 것"이다. 아직은 '부분적으로 은폐된 무기'처럼 까다로운 케이스에 어려움을 겪고 있지만, 자동화된 머신러닝에 힘입어 빠른 속도로 발전된 것으로 보인다.
 

우크라이나군은 AI 기반의 완전자율 드론을 개발 중이다. photo radio1.ru

이스라엘군의 표적 식별 AI '라벤더'

이스라엘의 탐사매체 '+972매거진'은 지난 4월 3일 자 기사에서 이스라엘군(IDF)이 '라벤더'로 불리는 AI 기반 프로그램을 개발하여 가자지구 전쟁에서 사용하고 있다고 처음으로 폭로하였다. 원래 '라벤더' 시스템은 하마스와 팔레스타인 이슬라믹지하드(PIJ)에 소속된 것으로 의심되는 무장세력 요원들을 잠재적 공격 표적으로 지정하도록 설계되었다.

폭로 기사에 의하면, IDF는 전쟁 초기 몇 주일 동안 거의 전적으로 라벤더에 의존했고, 라벤더는 최대 3만7000명에 달하는 팔레스타인인을 무장세력 가담자로 분류하여 그들의 거주지를 공습대상으로 지목했다는 것이다. IDF는 라벤더의 사살표적 목록을 가감 없이 승인했으며, 이런 결정이 내려진 이후 장교들은 AI 체계가 어째서 그런 결정을 내렸는지 알려고 하지 않고, 판단의 근거가 된 '원시 데이터'를 확인하지도 않았다고 지적했다. 상기 내용을 폭로한 군인들은 AI가 내린 결정에 IDF는 '거수기' 역할만 하는 경우가 많았다며, 폭격을 승인하기 전에 라벤더가 지시한 표적 1개마다 약 20초 이내에 표적이 남성인지 아닌지만을 확인했을 뿐이라고 증언했다. 문제는 IDF도 '라벤더'의 정확성이 90% 수준임을 알고 있었다는 것이다. 즉 시스템이 평균 10%가량의 '오류'를 범하여 무장단체와 느슨한 관계에 있거나, 전혀 관련도 없는 인물을 지목하는 경우도 있었다는 얘기다.

이 의혹에 대해 IDF는 라벤더가 "단지 정보원의 교차 확인 목적을 가진 데이터베이스일 뿐"이라고 반박했다. 실제로 라벤더는 전화 기록, 위성 이미지 및 기타 정보 같은 다양한 데이터를 융합하는 도구인 '의사결정 지원 시스템(DSS)'일 가능성이 높다. 과거 미국이 베트남에서 센서의 음향 및 후각 데이터를 처리하기 위해 컴퓨터 시스템을 사용했던 사례는 원시적 형태의 DSS로 간주될 수 있다. 이스라엘이 직면한 군사적 과제는 민간인 피해를 최소화하면서 실시간으로 공격 대상을 찾아내는 방식으로 '화력(공격)'과 '정보수집(데이터)' 간의 긴밀한 연결을 구축하는 것이다. 전쟁을 조기에 끝내려고 적에 대한 압박을 가하면 일종의 '인간 병목현상'이 나타난다. 인간이 무수히 많은 데이터를 한꺼번에 처리할 능력이 없기 때문이다. 해답은 인간-기계의 팀워크에 있다.

2021년 '인간과 기계의 팀: 세상을 혁신할 인간과 인공지능의 시너지 창출 방법'이라는 제목의 영문 서적이 'Y. S. 준장(Brigadier General Y. S.)'이라는 필명으로 출간되었다. 그런데 영국의 가디언지는 지난 4월 5일 자 기사에서 익명의 필자가 '이스라엘의 최정예 8200 정보부대 현직 사령관인 요시 사리엘(Yossi Sariel)'이라고 확인했다. 사리엘이 자신의 이름으로 생성된 구글 비공개 계정에 고유 ID와 계정의 지도·캘린더 프로필 링크와 함께 '디지털 족적'을 남겼는데, 가디언은 이러한 보안 허점을 파고들어 익명의 필자가 8200 부대 사령관이라는 사실을 밝혀낸 것이다.

"AI가 매일 수천 개 표적을 만들어낼 수도"

이미 사리엘 사령관은 2021년 저서에서 전쟁이 벌어지면 AI 기반의 '인간·기계 팀'이 "매일 수천 개의 새로운 표적을 만들어낼 수 있다"고 썼다. 여기서 다시금 '인간 병목현상'이 문제가 된다. 표적의 탐지와 승인 사이에 불가피하게 갭이 발생하기 때문이다. 러시아나 우크라이나 모두 드론이 '자율' 무기 시스템인지 아니면 단순히 '자동' 무기 시스템인지에 대해서는 크게 신경 쓰지 않는다. 이들의 우선순위는 전파 방해를 피하고 가능한 많은 숫자의 적 인원·장비·부대를 파괴할 수 있는 무기를 만드는 것이다. 현재까지 1000개 이상의 우크라이나 의료 시설을 폭격한 러시아 군대나, 생존을 위해 싸우고 있는 우크라이나 군대에 '탐지 오류(false positives)'는 큰 문제가 되지 않는다.

이러한 논쟁의 이면에 강대국 전쟁의 그림자가 어른거린다. NATO 국가들은 우크라이나 전쟁이 끝나면 AI