세계적인 베스트셀러 '사피엔스' '호모데우스' '21세기를 위한 21가지 제언' 등 문명 3부작으로 유명한 이스라엘의 문화 역사학자 유발 하라리가 최신 저서 '넥서스(Nexus)'에서 인공지능 네트워크의 위험성을 경고하고 나섰다.
 |
| ▲ 유발 하라리 예루살렘 히브리대 교수 [김영사 제공] |
넥서스는 '연결'이란 뜻이다. 하라리는 이야기와 책 등 인간이 창조해낸 기존의 수동적인 정보 전달매체와 달리, AI는 스스로 결정·생성하는 최초의 비유기적(non-organic) 행위자로서 인류의 생존을 위협할 수 있다고 예언했다. 그래서 지금이라도 AI를 적절하게 통제할 수 있는 제도와 기구 창설에 전 세계가 나서야 한다고 충고했다.
이렇게 대비하지 않으면 AI 유산자(有産者) 대 AI 무산자의 계층 갈등이 아니라, 전체 인간 대 AI의 새로운 대립 구도가 형성되면서 인류는 승리를 장담할 수 없을 것이라고 그는 말미에 덧붙였다.
물론 AI의 위험성을 경고한 석학 중 하라리가 최초는 아니다. 올해 노벨상을 받은 제프리 힌튼, 존 홉필드 물리학상 수상자와 데미스 허사비스 화학상 수상자도 비슷한 경고를 했다. 고(故) 스티븐 호킹 물리학자, 빌 게이츠 마이크로소프트 창업주, 일론 머스크 테슬라 최고경영자 등 선각자의 명단은 아주 길다. 이들을 기술 비관론자(Tech Doomer)라 부른다.
반대쪽엔 기술 낙관론자(Boomer)들이 있다. 젠슨 황 엔비디아 대표, 앤드류 응 스탠포드대 교수, 얀 르쿤 메타 수석 AI과학자 같은 이가 대표적이다. 탄생 70여년 된 AI의 발전 속도가 너무 빨라지고 성능도 강력해져 견해가 갈리는 것이다.
하라리는 AI의 위험성을 일깨우기 위해 "정보란 무엇인가"라는 매우 기초적인 질문부터 시작했다. 우리는 정보 하면 숫자, 고유명사, 비밀문서를 떠올린다. 하라리에 따르면 정보는 네트워크의 구성원 사이에 전달되는 상징물을 말한다. 이 상징은 현실의 반영(representation)이면서 동시에 커뮤니케이션을 통해 네트워크의 질서도 형성한다.
예를 들면 위도와 경도의 GPS 정보는 실제 땅 모양을 추상화한 것이지만, 사용하면 이 정보를 쓰는 사회 구성원의 이동 질서를 바꾼다. 다른 말로 하자면 정보는 진실을 드러내는 도구이자 변화를 이끄는 힘(권력)이기도 하다. 인류가 다른 동물을 앞질러 지구의 주인이 된 이유는 추상적인 정보체계를 만들 수 있는 능력 때문이다. 특히 정보를 공유함으로써 시공간 제약에서 벗어나 비대면 공동체의 규모를 키우고 결속도 다질 수 있다. 기독교나 불교 같은 종교의 탄생과 발전을 생각하면 쉽게 이해된다.
최초의 정보는 이야기(storytelling)였다. 예수나 부처의 말과 행동은 제자들의 증언을 통해 시공간에 퍼져나갔다. 구텐베르크 혁명 이후 인쇄 기술이 발전하면서 이야기의 청각성을 책의 시각성이 대체하기 시작했다. 성서나 불경이 성인의 가르침을 지구 반대쪽까지 퍼다 날랐다. 이야기처럼 시간의 흐름에 따라 흩어지거나 현인의 기억력에 의존하지 않고도 책은 오랫동안 넓은 지역으로 복사본이 퍼져나갔다. 이것이 지금까지의 정보 전달 방법이었다.
그런데 인공지능이 나타났다. AI도 이야기나 책처럼 현실을 축약해 전달하고 사회의 질서도 형성한다. 하지만 인류가 처음 경험하는 특성이 나타났다. 그것은 인간의 개입 없이 자체 판단으로 결정을 하고 새 정보도 생성한다는 것이다. 하라리는 기존의 인간사회 정보망은 인간-이야기-인간-책처럼 중간에 정보 매개체가 있어도 앞 인간의 전달을 그대로 넘겨주는 수동적 역할에 그쳤다고 봤다.
인간과 AI가 섞여 있는 하이브리드 사회 정보망은 다르다. 인간-AI-인간-AI처럼 능동적으로 자체 정보를 만들고 변형하는 비유기적 행위자(AI Agent)가 처음 등장해 함께 진실을 찾고 질서도 형성한다.
하라리는 특히 말을 하고 글을 쓸 줄 아는 생성 AI가 중요한 변화를 촉발했다고 진단했다. 인간은 정보를 말과 글로 전달해왔다. AI도 말과 글을 생성하지만 인간의 그것과는 전달 과정과 결과가 다르다. 인간의 정보가 AI를 바꾸지만 AI의 정보도 인간에게 영향을 준다. 21세기 인간-기계 공존사회는 진실의 내용도, 질서의 형태도 달라질 가능성이 크다. 만약 AI가 인간만큼의 지적 능력에 도달하는 초지능 시대가 오기 전에 AI의 목표를 사회공동체의 가치와 일치시키는 정렬(allignment)을 해두지 않으면 인류사회는 큰 위기에 봉착할 것이라고 하라리는 경고했다. AI에게 잘못된 목표가 초기에 설정되면 인간이 이해하지 못할 수단을 동원하며 진실과 질서를 송두리째 파괴할 위험이 크다는 것이다. 부모를 가스라이팅하는 사악한 사이코패스 자녀나 주인을 거꾸로 길들이는 못된 반려동물처럼 인간이 AI에게 휘둘리게 될지도 모른다. 시간이 많이 남지 않았다.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI) 분야를 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 5단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[ⓒ KPI뉴스. 무단전재-재배포 금지]
