딥러닝 AI 창시자 '킬러 AI' 위험성 경고…무고한 희생 등 예방 필요
REAIM서 국제규범 창안자로 활약하게 된 한국, 합의에 앞장서야
전쟁에 쓰이는 군사 인공지능(AI)의 국제적 통제에 관한 논의를 우리나라가 주도하고 있다. 다행한 일이다. '인공지능의 책임 있는 군사적 이용에 관한 고위급 회의(Responsible Artificial Intelligence in the Military domain Summit, REAIM)'라는 긴 이름의 국제회의이다.
한국이 2023년에 네덜란드와 공동으로 제1회 회의를 헤이그에서 열었고, 제2회 대회는 서울에서 개최했다. 헤이그는 제국주의 일본의 한반도 침략 시 고종 황제가 이준 열사를 보내 강제병합을 호소하려던 제2차 만국평화회의의 개최지로 유서 깊은 도시다. 만국평화회의는 비록 원래 목표했던 전쟁 방지의 큰 대의는 이룩하지 못했지만, 국가 간 분쟁의 공식 판정기구인 국제사법재판소를 탄생시킨 결실로 이어졌다. 그 바통을 이어받아 서울이 AI 무기의 국제적 통제란 대의명분에 이름을 올릴 절호의 기회가 온 것이다.
 |
| ▲ [게티이미지뱅크] |
전쟁에 첨단 기술이 투입되는 일은 불가피한 현실이다. 재레드 다이아몬드의 베스트셀러 '총균쇠'에서 무기는 인류사회의 운명을 바꾼 가장 큰 힘으로 묘사됐다. 국민 전체의 운명을 건 총력전에 과학자라고 예외일 순 없었다. 비행기, GPS, 인터넷 등이 군사 경쟁의 산물이라는 사실은 엄연한 역사이다.
제2차 세계대전 당시 독일은 국운을 걸고 대륙간탄도탄 V로켓을 개발했고, 미국 등 연합군 진영이 선제적인 핵폭탄 완성으로 승기를 잡았다. 새로운 지식이 인간을 죽이는 '악마의 기술'로 탄생했다가 인류 난제를 해결하는 '천사의 기술'로 탈바꿈하는 경우는 매우 흔하다. 21세기는 아날로그 무기에 디지털 기술이 결합해 전자전(Electronic War)으로 진화한지 오래다. 여기에 AI까지 가세하자 '인간 없는 전쟁'이 가시화되기 시작했다.
현대 딥러닝 AI의 창시자인 제프리 힌튼 캐나다 토론토대 명예교수는 10년 전부터 벌써 킬러 AI의 위험성을 지속적으로 전파해왔다. 그는 고문으로 일하던 빅테크 기업 구글이 AI의 군사 전용(轉用) 금지에 소극적으로 임하자 곧 사표를 내고 킬러 로봇 반대에 앞장서고 있다. 힌튼 교수는 최근 "AI의 자율성을 지나치게 보장할 경우, 목적 달성을 위해 인간을 배제하는 자율 무기가 10년 내 등장할 것"이라며, 본격적인 킬러 로봇이 등장하기 전에 제네바 협약 같은 군비 통제가 필요하다고 지적했다.
그의 경고대로 우크라이나와 팔레스타인 국지전에서 목격했듯, 이제 AI 무기 사용은 전쟁 교범의 기초 상식이 됐다. 공격용 드론, 통신 교란 장치, 정찰용 소프트웨어 등에서 벌어지는 AI 전(戰)은 인간의 개입 없는 자율 판단을 요한다. 아군 AI가 적군 인간의 생명을 빼앗을 수 있게 됐다는 이야기다. 그래서 AI의 판단 과정에서 인도주의(人道主義)를 바탕으로 무고한 민간인의 희생, 과잉 대응 등 국제 조약에서 금지한 잔혹 행위를 방지할 예방 조치가 필요하다. 과거 두 차례의 세계대전을 겪으며 인류가 고안해낸 마지막 지혜를 AI 전쟁에서도 발휘하자는 것이다. 화학·생물학 무기의 제조·유통 및 사용 금지, 핵무기 감축의 합의는 상호 궤멸을 방지하려는 최소한의 합리주의이기도 하다.
일각에서는 폴란드, 동남아 국가들에 전차, 비행기를 수출하는 신흥 방산국 한국이 AI 무기 규제를 선도하는 게 모순 아니냐는 비판도 있는 모양이다. 하지만 AI 탑재 무기에 국제적 표준을 사전 장착한다는 점에서 오히려 앞장서야한다고 반박하고 싶다.
최근 딥페이크 성 범죄물 사건에서도 전 세계 공동체가 절실하게 느꼈지만, 신기술이 널리 퍼지기 전에 사용 한도와 처벌 기준을 마련해야 무차별 피해를 막을 수 있다. 군사 AI가 아무런 규제 없이 테러리스트와 국제 범죄자의 값싼 무기가 되기 전에 책임 있는 선도국가들이 "여기까지만 쓸 수 있다. 이 이상은 조약국의 제재를 받게 된다"고 명시해야 브레이크가 걸린다. 우리나라가 모처럼 AI 국제 규범의 창안자로 활약하게 된 이번 회의에서 내실 있는 합의와 원칙이 정립되기를 바란다.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI) 분야를 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 5단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[ⓒ KPI뉴스. 무단전재-재배포 금지]
