전쟁 선봉에 나선 AI 빅테크 기업들

자동화 무기 보다 의사 결정 시스템에 깊이 관여

최종 의사 결정권 인간에게 맡겨야 파국 피해

이란 전쟁에서 두드러진 사실은 AI(인공지능)이 주도하고 잇다는 점이다. 그리고 이는 AI 관련 빅테크 기업들이 전쟁의 최전선에서 움직이며 디지털 전선을 확대하고 깊숙이 개입하고 있음을 의미한다. 이란 혁명수비대(IRGC)는 글로벌 빅테크를 겨냥해 공격 시점까지 특정하며 구글, 마이크로소프트, 애플, 메타, 엔비디아, 팔란티어 등 18개 기업을 보복 대상으로 지목했다. 군사 충돌은 완화되는 흐름을 보이지만, AI, 클로드, 데이터 인프라를 둘러싼 디지털 전선은 긴장이 확장되는 분위기다.

이란 측은 해당 기업들이 미국과 이스라엘의 군사 작전 과정에서 표적 식별과 정보 분석 등에 기술적으로 관여했다고 판단하고 관련 기업과 시설을 '합법적 타격 대상'으로 규정했다. 실제 아랍에미리트와 바레인 소재 아마존웹서비스(AWS) 데이터센터가 드론 공격을 받은 것으로 알려졌고, 이스라엘 내 지멘스 산업 소프트웨어 센터와 AT&T 통신 거점도 타격 대상에 포함됐다. 전통적인 군사시설이 아닌 데이터센터와 통신 인프라가 공격 대상에 포함됐다는 점에서 전장은 디지털 영역에서 더욱 거세다.

공격 대상으로 거론된 기업 구성도 눈에 띈다. 클로드, AI 기업을 비롯해 반도체(엔비디아, 인텔), 네트워크(시스코), 산업과 군수(보잉, GE), 금융(JP모건)까지 포함됐다. 아랍에미리트의 AI 기업 G42와 사이버보안 업체 스파이어 솔루션즈도 함께 지목되면서 대상 범위는 특정 국가를 넘어 기술 산업 생태계 전반으로 확대된 양상이다. 이 같은 움직임은 전쟁 수행 구조 변화와 맞물려 있다. 최근 군사 작전은 AI 기반 표적 식별, 클라우드 기반 데이터 처리, 위성 통신 네트워크를 중심으로 이뤄지고 있다. 이 과정에서 글로벌 빅테크 기업들이 제공하는 인프라와 첨단 기술은 작전 수행의 핵심 요소로 자리 잡았다.

실제로 전장에선 데이터 분석과 실시간 정보 처리 능력이 무기 체계 못지않은 역할을 하고 있다. 이에 따라 기술 기업이 제공하는 클라우드와 AI 시스템은 군사 작전의 눈과 뇌 기능을 수행하고 있다. 이들 기업을 직접적인 타격 대상으로 규정한 배경도 이런 변화가 반영돼 있다. 이란은 군사력뿐 아니라 데이터와 인프라를 제공하는 주체까지 전쟁 당사자로 간주하고 있다.

이란에 대한 잠재적 공격 계획이 진행되는 동안 클로드 기반의 메이븐은 수백 개의 표적을 제안하고, 정확한 위치 좌표를 제공하며, 중요도에 따라 표적의 우선순위를 정한다. 메이븐과 클로드의 결합으로 작전 속도가 빨라지고 이란의 반격 능력이 저하되며 수주에 걸친 전투 계획이 실시간 작전으로 전환되었다. 이 AI 도구는 공격 개시 후에도 공격의 타당성을 평가한다. 클로드는 테러 음모 저지 및 니콜라스 마두로 베네수엘라 대통령 체포 작전에도 사용된 바 있다. 하지만 주요 전쟁 작전에 투입된 것은 이번이 처음이다.

국방부는 2024년 말부터 앤트로픽의 챗봇 클로드를 메이븐 시스템에 통합하기 시작했다. 이 시스템은 표적 제안, 물류 추적, 현장 정보 요약 제공 등에 사용되었다. 트럼프 행정부는 메이븐 시스템의 활용 범위를 군의 여러 분야로 대폭 확대했는데 지난해 5월 기준으로 2만 명이 넘는 군인이 이 시스템을 사용하고 있다.

이란 공격 작전의 지휘관들은 메이븐 시스템 사용에 매우 능숙하며, 2021년 아프가니스탄 철수 작전과 2023년 10월 7일 이란 핵 공격 이후 이스라엘 지원 작전에도 이 시스템의 초기 버전을 사용한 경험이 있다.

이스라엘 국방군은 미군과 긴밀히 협력해 가능한 한 가치 있고 광범위한 공격 목표 데이터베이스를 구축하기 위해 수천 시간을 투자했다고 밝혔다.

군사 AI의 신화와 현실

군사 AI에 대한 공상 과학 소설은 종종 오해를 불러일으킨다. 킬러 로봇이나 드론 편대와 같은 대중적인 이미지는 AI 시스템의 자율성을 과장하고 인간의 역할을 과소평가하는 경향이 있다. 전쟁의 승패는 대개 기계가 아니라 그것을 사용하는 사람에게 달려 있다. 실제로 군사 AI는 다양한 시스템과 임무의 총칭이다. 크게 자동화 무기와 의사결정 지원 시스템으로 나눌 수 있다. 자동화 무기 시스템은 스스로 목표물을 선택하거나 공격할 수 있는 능력을 갖추고 있다. 이런 무기는 공상 과학 소설의 소재로 더 자주 등장하며 상당한 논쟁의 대상이 되기도 한다.

반면, 의사결정 지원 시스템은 이제 대부분의 현대 군대의 핵심이다. 이는 인간에게 정보와 계획 수립에 필요한 자료를 제공하는 소프트웨어 애플리케이션이다. 중동에서 벌어지고 있는 최근 전쟁을 포함해 많은 군사 AI 활용 사례는 무기보다는 의사결정 지원 시스템에 집중되어 있다. 현대 전투 조직은 정보 분석, 작전 계획, 전투 관리, 통신, 병참, 행정 및 사이버 보안을 위해 수많은 디지털 애플리케이션에 의존하고 있다.

클로드는 무기가 아니라 의사결정 지원 시스템의 한 예에 해당한다. 클로드는 군대, 정보기관, 법 집행 기관에서 널리 사용되는 메이븐 스마트 시스템에 탑재되어 있다. 메이븐은 AI 알고리즘을 사용해 위성 및 기타 정보 데이터에서 잠재적 목표물을 식별하고, 클로드는 군사 계획 정보를 분류하고 목표물과 우선순위를 결정하는 데 도움을 준다.

가자 지구 전쟁 등에서 사용된 이스라엘의 라벤더와 가스펠 시스템 또한 의사결정 지원 시스템이다. 이런 AI 애플리케이션은 분석 및 계획 지원을 제공하지만, 최종 결정은 인간이 내린다. 그런데 모든 AI 전쟁 프로그램이 독자적으로 결정을 내리는 자체 프로그램을 실행했다. 그것도 핵무기를 동원한 것이다. 이 때문에 인간이 최종 결정을 내리도록 프로그램을 수정해야 한다고 앤트로픽은 국방부에 제시했고 트럼프 행정부는 이를 거부하고 계약을 종료했다.

AI는 빠르게 도입되었다. 작년에 팔란티어와 계약을 체결한 나토는 메이븐 시스템이 지휘관들에게 마치 비디오 게임처럼 전투를 지휘할 수 있는 능력을 제공한다고 묘사했다. 조지타운 대학교의 연구에 따르면, 미군은 이 시스템을 통해 단 20명의 포병 부대 하나가 2,000명의 병력이 하는 과제를 수행할 수 있었다. 하지만 이제 다른 AI 기업들이 국방부에서 앤트로픽의 자리를 대체할 태세를 갖추고 있다. 일론 머스크의 xAI는 기밀 정부 시스템 개발 계약을 체결했고, 앤트로픽을 대신해 오픈AI가 계약을 체결했다.

군사 AI의 오랜 역사

어느 정도 자율성을 갖춘 무기는 100년이 넘는 기간 동안 전쟁에서 사용되어 왔다. 19세기 해상 기뢰는 접촉 시 폭발했다. 제2차 세계 대전 당시 독일의 버즈 폭탄은 자이로스코프 유도 방식을 사용했다.

유도 어뢰와 열추적 미사일은 기동하는 목표물을 요격하기 위해 궤적을 변경한다. 이스라엘의 아이언 돔과 미국의 패트리어트 시스템과 같은 많은 방공 시스템은 오래전부터 완전 자동 모드를 제공해 왔다.

21세기 전쟁에서 로봇 드론은 널리 사용되기 시작했다. 무인 시스템은 이제 육지, 바다, 공중, 그리고 궤도에서 다양한 "지루하고, 더럽고, 위험한" 임무를 수행한다. 미국의 MQ-9 리퍼, 이스라엘의 헤르메스 900과 같은 원격 조종 드론은 수 시간 동안 자율적으로 체공할 수 있는데, 정찰 및 공격 플랫폼을 제공한다.

러시아-우크라이나 전쟁에서는 1인칭 시점 드론을 자살 공격 무기로 사용하는 것이 개척되었다. 일부 드론은 전자 교란으로 인해 인간 조작자의 원격 제어가 불가능하기 때문에 인공지능(AI)을 사용해 목표물을 탐지한다.

하지만 정찰 및 공격 자동화 시스템은 자동화 혁명의 가장 눈에 띄는 부분일 뿐이다. 더 멀리 보고 더 빠르게 타격할 수 있는 능력은 군사 조직의 정보 처리 부담을 극적으로 증가시킨다.

바로 이 지점에서 의사결정 지원 시스템이 중요해지는 이유다. 자동화 무기가 군의 눈과 팔을 강화한다면, 의사결정 지원 시스템은 두뇌를 강화하는 역할을 한다. 냉전 시대의 지휘통제 시스템은 이스라엘의 인공지능 기반 전투 관리 시스템인 차야드(Tzayad)와 같은 현대적인 의사결정 지원 시스템을 예견했다.

1950년대 미국의 반자동 지상 환경(SAGE)과 같은 자동화 연구 프로젝트는 컴퓨터 메모리와 인터페이스 분야에서 중요한 혁신을 가져왔다.

베트남 전쟁 당시, 이글루 화이트(Igloo White)는 중앙집중식 컴퓨터에 첩보 데이터를 수집해 북베트남 보급선에 대한 미군의 공습을 조율했다. 미국 국방고등연구계획국(DARPA)의 1980년대 전략 컴퓨팅 프로그램은 반도체와 전문가 시스템 분야의 발전을 촉진했다. 실제로 국방 예산은 인공지능(AI)의 등장을 가능하게 한 핵심 요소였다.

자동화된 전쟁 가능하게 하는 조직

자동화된 무기와 의사결정 지원 시스템은 상호 보완적인 조직 혁신에 의존한다. 베트남의 전자전에서부터 냉전 말기의 공대지 전투 교리, 그리고 이후의 네트워크 중심 전쟁 개념에 이르기까지, 미군은 새로운 아이디어와 조직 개념을 개발해 왔다.

특히 주목할 만한 것은 미국의 세계 테러와의 전쟁 기간 동안 등장한 새로운 유형의 특수 작전이다. AI 기반 의사결정 지원 시스템은 테러리스트 요원을 찾아내고, 이들을 사살하거나 생포하기 위한 작전을 계획하고, 그 과정에서 수집된 정보를 분석하는 데 매우 중요한 역할을 했다. 메이븐(Maven)과 같은 시스템은 이런 유형의 대테러 작전에 필수적이었다.

베네수엘라와 이란에서 보여준 미국의 인상적인 전쟁 방식은 수십 년에 걸친 시행착오의 결실이다.

미군은 다양한 출처에서 정보를 수집하고, 목표 시스템을 분석하고, 공격 옵션을 평가하고, 합동 작전을 조율하고, 폭격 피해를 평가하는 복잡한 프로세스를 정교하게 다듬어 왔다. 인공지능(AI)이 표적 설정 과정 전반에 활용될 수 있는 유일한 이유는 전 세계 수많은 인력이 AI 시스템을 운영하기 위해 노력하고 있기 때문이다.

AI는 군사 표적 설정에서 자동화 편향, 즉 사람들이 자동화된 결정에 과도한 비중을 두는 경향에 대한 중요한 우려를 불러일으킨다. 하지만 이런 우려는 새로운 것이 아니다. 이글루 화이트 작전은 베트남의 기만체에 의해 종종 오인되었다. 1988년에는 최첨단 미국 이지스 순양함이 이란 여객기를 격추했다. 1999년에는 정보 오류로 인해 미국 스텔스 폭격기가 세르비아 베오그라드의 중국 대사관을 오인 공격했다.

자동화된 예측에도 인간의 판단이 반드시 필요하다. AI가 스스로 결정하도록 내버려두면 의도하지 않은 결과와 파국을 초래할 수 있다. 군사용 AI가 자체적으로 판단하게 되면 최악의 살상무기로 돌변할 수 있다. 그렇기 때문에 고도로 훈련되고 통제력이 뛰어난 인간이 반드시 최종 결정을 내리도록 프로그램의 한계를 설정해야 한다.

전쟁에서의 의사결정 지원 시스템의 성공과 실패는 기술적 요인보다는 조직적 요인에 더 크게 좌우된다. 인공지능(AI)은 조직의 효율성 향상에 도움을 줄 수 있지만, 조직의 편견을 증폭시킬 수도 있다. 가자지구에서 발생한 과도한 민간인 사망에 대해 인공지능 시스템 '라벤더'를 비난할 수도 있지만, 이스라엘의 허술한 교전 수칙이 자동화 시스템의 편향보다 더 큰 영향을 미쳤을 가능성이 크다.

의사결정 지원 시스템은 인간의 의사결정을 보조하는 역할을 한다. AI가 사람을 대체하도록 방임해서는 안된다. 인간은 여전히 시스템과 데이터 흐름을 설계, 관리, 해석, 검증, 평가, 수리 및 보호하는 데 중요한 역할을 수행하고 지휘관은 여전히 지휘권을 행사해야 한다. 경제적인 관점에서 AI는 예측 능력을 향상시키는데, 이는 기존 데이터를 기반으로 새로운 데이터를 생성하는 것을 의미한다. 하지만 예측은 의사결정의 한 부분일 뿐이다.

궁극적으로 무엇을 예측하고 예측 결과를 어떻게 활용할지에 대한 중요한 판단은 사람이 내리도록 해야 한다.

사람들은 현실 세계의 결과에 대해 선호도, 가치관, 그리고 책임감을 갖고 있지만, 인공지능 시스템은 본질적으로 그렇지 않다. 군사적으로 AI를 점점 더 많이 활용하는 것은 오히려 전쟁에서 인간의 중요성을 더 높이는 결과를 낳아야 한다.