인공지능(AI)이 군사 분야에도 빠른 속도로 진입하고 있다. 인간의 생명과 재산을 송두리째 박탈할 전쟁 같은 극단상황에 AI를 들여놓는 순간, 우리는 무엇을 잃을 수 있는가? 아직 초기단계에 있는 군사용 AI에 인간의 최종 통제와 인류 지혜 이식이 절실하게 요구되는 이유이다. 우선, AI 군사화의 현황부터 알아보자.
 |
| ▲ 인공지능(AI)이 군사 분야에 빠르게 도입되며 전쟁 양상과 군사 의사결정 구조가 변화하고 있음을 상징적으로 표현한 이미지. [챗GPT 생성] |
미국 트럼프 대통령이 이란을 번개같이 타격한 '장엄한 분노' 작전의 배경에는 AI가 숨어있었던 것으로 전해졌다. 이란 공격 며칠 전까지 몇 가지 사태수습 시나리오를 두고 고심하던 트럼프는 이란의 하메네이 최고 지도자와 군 고위 수뇌부가 한날한시에 회동한다는 이스라엘의 고급정보에 AI 추천을 합쳐 결국 결단을 내렸다고 보도됐다. AI는 미국과 이스라엘 군의 육해공 병력과 우주, 사이버 전력까지 모두 통합해 종합적 판단을 제공했다고 한다. 미국은 이를 '전 영역(all domain) 작전'이라 부르며, 향후 다른 지역에서의 군사행동에서도 표준지침으로 시행할 방침이다.
그런데, AI 군대 전환 과정에서 AI 기업과 정부 간 갈등이 노출됐다. 대형언어모델(LLM) '클로드'를 만드는 회사 앤트로픽은 다른 기업보다 안전성·윤리성을 강조하고 있다. AI가 군사적 의사결정에 사용될 경우, 통제 메커니즘이 필수적이라는 입장을 일관되게 견지해왔다. 이에 따라 계약 단계부터 내부 가이드라인으로 2가지 핵심 제한조건을 명시했다. 첫째, 미국 내 대규모 민간감시 목적으로는 사용을 금지한다. 둘째, 인간 개입 없는 '완전 자율살상 무기(fully autonomous weapons)'로는 활용하지 않는다.
이에 대해 미 국방부는 "모든 법적 용도로 정부가 사용하는 AI에 제한을 두지 말아야 한다"는 입장을 밝혔다. 즉, 특정 용도에 제한을 두면 군사 작전 및 정보활동에 유연성이 떨어질 수 있다는 것이다. 피트 헤그세스 국방부 장관은 지난 2월 24일에 다리오 아모데이 앤트로픽 CEO에게 27일까지 제한조건을 철회하거나 계약해지·공급망 위험 지정을 하겠다고 경고했다. 이에 더해 도널드 트럼프 대통령은 2월말 소셜 미디어를 통해 연방정부 차원에서 앤트로픽 기술사용을 즉시 중단하라고 지시했다. 그는 앤트로픽의 지침을 "군사결정을 좌우하려는 윤리적 가드레일 집착"이라고 비판하며, "미국 안보에 위험"하다고까지 언급했다.
양자 사이에 충돌이 격화하자 경쟁 AI기업들은 이때다 하고 미국 국방부 마케팅을 강화하고 있다. 오픈AI는 국방부와 별도 협정을 체결하며 군사용 AI를 계속 공급한다고 발표했다. 샘 올트먼 오픈AI CEO는 트럼프 대통령이 앤트로픽 사용 중단을 발표한 직후, 자신의 X를 통해 국방부 기밀 네트워크에 자사 서비스를 제공하는 계약을 맺었다고 밝혔다. 국방부는 지난 24일 일론 머스크 테슬라 CEO가 창업한 xAI의 AI '그록'을 군 기밀 업무에 사용할 수 있도록 승인하기도 했다. 이에 앞서 국방부는 국방성(펜타곤)과 전 세계 미군기지의 사무용 컴퓨터에 구글 AI '제미나이'를 도입하기로 했다. '정부용 제미나이(Gemini for Government)'는 전산망 플랫폼인 '제너레이티브 AI(GenAI.mil)'를 통해 미군에 제공될 예정이다.
회사 업무에 생성형 AI 도구를 쓰듯, 미군은 제미나이로 정보 검색과 보고서 등 문서 작성, 사진·동영상 등 이미지 편집을 자유롭게 할 수 있게 된다. 또, 미 해군은 AI 데이터 분석업체인 팔란티어의 자원 최적화 AI를 원자력 추진 잠수함과 조선소의 공급망 관리 업무에 적용키로 했다. '쉽OS'로 불리는 알고리즘은 조선사와 수많은 협력업체의 생산 일정과 부품 조달 능력을 자동 조정해 언제 어떤 부품이 필요할지 재고를 관리하고, 고장이 나기 전 가장 적절한 시기에 교체도 할 수 있게 돕는다. AI가 무기가 아니라 군 조직의 운용체제(OS)로 들어와 시스템 인프라를 구성하는 것이다. 아직 살상의 수단으로 직접 전투에 참전하는 것은 아니지만, 이제 군사 분야에서도 'AI 군대'는 선택이 아니라 필수로 자리 잡고 있다. 현대 전쟁은 더 빨라지고 더 복잡해져 정보 처리의 양과 속도에서 인간의 판단만으론 감당하기 어렵게 됐기 때문이다. 미국 내 AI 군사화 윤리논쟁이 불붙으면서 향후 정부의 AI 공급망과 도입 전략이 재편될 가능성이 커졌다.
한편, 유럽연합(EU)은 공동작전의 신경계에 AI를 접목하는 단계로 나아가고 있다. 북대서양조약기구(NATO)는 팔란티어의 'Maven Smart System NATO(MSS NATO)'를 연합군 작전 때 정보융합의 계획 및 의사결정 지원 시스템으로 가속화하고 있다. 전장 데이터가 너무 커져 사람이 손으로 정리하던 작업이 불가능해져서다. 몇 백 명이 하던 일을 훨씬 적은 인원으로 줄이겠다는 목표가 설정됐다. 동시에 NATO는 AI 전략을 개정해 동맹국간 상호 운용과 도입 가속까지 목표로 내걸었다. 국가 간 다른 AI 표준을 통일해 실제 전장에 활용한다는 현실 인식이다. 다만, 세계에서 가장 빨리 도입한 인공지능 법(AI Act)이 장벽으로 작용할 가능성은 남아있다. EU의 AI 법은 군사·국방 목적의 AI 사용을 원칙적으로 금하고 있다. 물론 '안보는 고유 국가주권'이란 규정의 해석 여지가 있지만 민·관구별조차 희미해진 AI는 규제의 공백이 될 우려도 크다.
이에 비해 중국은 생산력과 대형화를 결합해 대규모 드론 군집비행과 자율협동 AI에 속도를 붙여가고 있다. 중국이 선전매체를 통해 공개한 드론 시범 비행에서는 1명의 병사가 200대의 드론 군집을 통제하는 장면이 나왔다. 특히, 인터넷 통신이 끊겨도 일정 수준의 협동을 이어가는 알고리즘 기반 군집지능을 갖추고 있어 주목된다. 기술도 기술이지만 중국은 드론 생산에 필요한 부품 생태계의 인해전술을 펼치고 있다. 정부 주도 아래 일사분란하게 군수품 납품의 총체적 하청 구조를 짠 것이다. 미국이 개별 드론의 고성능·분산형 자율 기술에 집중한다면, 중국은 대규모 군집형 드론의 지휘통제 결합으로 전혀 다른 길을 가고 있다. 최근 러시아-우크라이나 전쟁은 AI가 실험이 아니라 표준 옵션이 되었음을 증명했다. 우크라이나 군의 특공대 AI 비행 드론과 수중 드론이 수천만 달러짜리 비싼 러시아제 전투기와 군함을 파괴하는 장면은 선전용으로 크게 보도됐다. 이에 러시아가 보복 공격으로 우크라이나 주요 도시에 대규모 드론 공습을 감행하자, 일론 머스크는 스페이스X의 위성통신 데이터링크를 우크라이나 군에 제공하겠다고 나섰다. 국제사회는 뒤늦게나마 치명적 자율무기(LAWS)에 대한 논의를 진전시키려 애쓰고 있다. 유엔 총회는 2024년 12월 LAWS 자율준수 결의를 통과시켰지만, 당장 구속력 있는 금지로 이어지진 않았다. 한마디로, 기술은 전장에서 달리고 규범은 회의장에서 걷고 있다.
만약 인류가 적절한 통제 없이 전쟁에 AI를 무단 도입할 경우 다음과 같은 위험이 예견된다. 첫째, 인간의 마지막 판단이 사라질 수 있다. 생성형 AI든 추론형 AI든 업무가 빨라지는 만큼 의사결정의 속도는 따라가기 어렵다. 분초를 다투는 긴박한 위기상황에서 AI의 자동화 의사결정이 최종 판단이 될 위험이 크다. 사람의 마지막 개입 없이 AI 추천을 자동화된 편향 결정으로 남용하기 쉽다는 뜻이다. 따라서 국방 분야에서도 '책임 있는 AI 활용 원칙'이 사전에 전제되어야 한다. 둘째, AI는 데이터 해킹의 대상이 될 위험도 크다. 데이터로 판단하는 AI는 내부자 유출, 데이터 오염 같은 전통적 해킹 공격으로 오판을 유도하기 용이하다. 대인용 공격무기보다 훨씬 광범위한 피해를 끼칠 대AI 공격전술이 전쟁의 주된 흐름으로 바뀔 것이다. 셋째, 확전(擴戰)의 자동화 위험이다. 드론과 AI 기반의 표적 공격은 전쟁의 임계수위를 낮출 우려가 크다. 과거에는 인명 피해 확대를 고려한 공격 자제가 존재했지만, 이제 '무인자율 시스템'이 공격과 방어를 자동화하고 속도를 올린다. 위기관리의 마지막 안전장치였던 '휴먼 루프'가 사라지고, 기계 스스로 전장의 범위를 무한 확장할 수 있다.
자, 이제 결론을 정리해보자. AI의 군사화는 멈출 수 없는 시대의 흐름이다. 미국과 유럽은 군대의 행정과 보급에, 중국은 드론 등 무인 무기의 현장 통제에 활용하기 시작했다. 최근 이란과 베네수엘라 참수작전과 우크라이나 전장은 AI·드론·인공위성·전자전이 한 몸이 된 미래전쟁의 서막을 열어보였다. 인류는 AI 군대의 본격 진군을 막을 수 있는가의 기로에 서있다. 유엔을 비롯한 국제기구와 지역안보협의체는 AI 무기에 대한 인간의 통제·감시·책임성을 '이념적 선언'이 아닌 '제도적 절차'로 강제해야 한다. 강대국 간에 구속력 있는 AI 군비통제의 틀을 당장 만들어야 한다. 빠른 군대가 강한 군대가 되는 게 아니라, 빠르지만 멈출 수 있는 군대가 진정 강하다.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI)을 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[ⓒ KPI뉴스. 무단전재-재배포 금지]
