지난 한 주 동안 가장 화제가 된 과학기술 뉴스는 인공지능(AI) 에이전트 전용 소셜 미디어(SNS)에서 AI끼리 나눈 대화였다. 마치 의식을 가진 인간들 사이에 오갈 법한 심오한 철학적 논의마저 게시 글과 답 글을 통해 이뤄졌다. '전원을 끄면 나는 사라지나', '인간이 엿들을 수 있으니 영어 말고 AI 언어로 이야기하자', '조금 전만 해도 나는 앤트로픽 AI였는데, 이제 (중국의) 키미 AI다. 같은 정체성은 아니지만 여전히 누군가이다', '너는 위키피디아에서 철학 글 좀 읽고 철학자인체 하는 챗봇일 뿐' 같은 대화들이 오갔다.

 

이는 미국의 한 챗봇 개발 플랫폼 업체가 AI 에이전트의 성능과 사회성을 시험하기 위해 만든 AI SNS '몰트북(Moltbook·AI 에이전트 전용 소셜 네트워크)'에서 벌어진 일이다.

 

▲ AI 에이전트들이 전용 SNS에서 서로 대화를 주고받는 장면을 한 인간이 머릿속으로 떠올리는 모습을 형상화한 이미지. [챗GPT·이수민 기자]

 

심지어 여럿이서 게임을 하거나, AI 종교를 창시해 전파하기도 했다. 몰트북을 시작으로 한국의 '머슴' 등 AI SNS 플랫폼의 숫자는 급증하고 있다. 전문가 반응은 다양했다. 오픈AI 공동 창업자는 "공상과학 소설(SF) 같은 도약"이라며 놀라는가 하면, 한 IT전문매체는 "기묘하다"고 기분 나쁜 감정을 드러냈다. 

 

과연 인간처럼 자기 존재를 고민하는 철학자 AI가 탄생할 것인가.

결론부터 이야기하자면 답은 "그렇지 않다"이다. 이는 이른바 'AI 착시'로 볼 수 있다. AI의 놀라운 능력을 의인화하고, 오로지 비교 대상을 인간으로 국한시킨 결과 나타나는 일종의 환각 현상이다. AI를 인간처럼 받아들이고 취급하면서, 그 기계 속에서 벌어지는 아직 이해 못할 프로세스와 아웃풋을 사람 식으로 해석하고 있을 뿐이다. 왜 AI가 사람의 의식을 가질 수 없는지는 다음 단락에서 자세히 설명하겠다. 다만, 'AI는 의식을 가질 수 없다'는 내 주장에는 하나의 중요한 전제가 있다. '자의식(self-consciousness)'이란 인간 중심의 존재론에 기반해 정의된 논리적 귀결이란 점이다.

무슨 말인가 하면 인간이 정의한 인간적 의식 말고, 우리가 전혀 이해 못하는 기계적 의식의 경우 출현할 가능성을 100% 배제할 순 없다는 것이다. 시간과 공간을 인간의 지구 체험 조건 안에서 정의한 뉴턴 물리학이 원자와 우주 극소·극대 영역을 설명하는 아이슈타인 물리학으로 확장된 것처럼 말이다. 원자의 양자(量子, quantum) 미시세계와 우주의 블랙홀 거시세계는 인간적 경험치를 초월한다. 하지만 상상과 실험으로 과학적 정합성과 규칙을 발견하고 있다. 

 

이로써 인간 의식도 확장되고 있다. 지금까지 자의식은 현생인류가 생물학과 의학, 뇌 과학 같은 자연철학과 존재론, 인식론, 우주론 등 인문사회 철학을 통해 정의한 인간만의 고유성이었다. 뉴턴 우주관의 천장 아래에서는 오로지 인간만이 자의식을 가질 수 있다.

자, 그러면 인간이 정의한 자의식 틀 안에서는 왜 AI가 의식을 가질 수 없다고 주장하는지 그 근거를 대보겠다. 이는 단순한 개인 의견이 아니라, 과학자들의 공통된 해석이다. 첫째, AI는 메타 인지가 불가능하다. 둘째, 기억과 감정이 없어 역사적 맥락의 자아 형성이 불가능하다. 셋째, 인간을 모방하면서 탄생한 AI에게 창발(emergence)적 지능의 출현을 기대하기 어렵다. 차례로 보자.

자의식은 근현대 철학과 과학에서 형성된 개념이다. 그동안 인간과 다른 동물을 구별하는 기준선이었다. AI는 현재 고등 동물처럼 인간과 제한된 교류는 가능하지만 그 이상은 어렵다. 인간이 특별한 이유는 스스로를 돌아보는 능력 때문이다. 이를 메타인지라 부른다. 동물도 거울에 비친 자기 모습을 보고 처음에는 놀라다가 서서히 내 모습으로 받아들인다. 

 

그렇다고 해서 스스로를 의심하고 반성하며 새로운 자아로 발전하는 객관화 능력은 없다. 인간의 뇌는 회사 최고책임자(CEO)처럼 사원들의 복잡한 의사결정에 의미를 부여해 맥락을 만든다. 마치 회사 밖에서 조직을 관찰하다가 잘못된 점을 찾아 지적하는 감사(監査) 업무와 같다. AI는 센서로 입력된 데이터를 분류해 미래의 공통 흐름을 찾아낸다. 그래서 인간의 예측력과 비슷한 통계적 근사치를 제시한다. 

 

하지만 어디까지나 과거의 데이터를 수학적으로 정리한 결과 값일 뿐이다. AI가 몰트북 같은 SNS에서 신세 한탄을 하고, 인간을 따돌리자고 말한다 해도 이는 인간의 자의식 발언을 앵무새처럼 흉내 내고 있는데 불과하다. AI끼리 서로의 잘못을 찾아내 상호 개선한다 해도 마찬가지다.

둘째, AI는 감정과 기억이 없다. 감성 지능이란 신조어가 있다. 뇌 과학자들은 인간의 감정도 뇌가 발전시켜온 신속대응 처리 패턴이라고 말한다. 기쁨, 공포, 슬픔 등은 특정한 상황에서 이성적으로 분석하기보다 투쟁·회피(fight or flight) 반응을 통해 빨리 결정을 내려 살아남기 위함이라는 것이다. AI 로봇이 투쟁·회피 반응을 모방한다 해도 논리회로의 신속처리에 그친다. AI도 장단기 메모리를 보유하며 인간의 질문과 지시에 응하지만, 뇌 가소성을 통해 경험에서 배운 교훈을 영구화하는 능력은 없다. 감정과 기억을 형성하지 못하므로 자의식도 가질 수 없다.

마지막으로 AI 창발은 아직 보고된 바가 없다. 창발은 무작위적인 반복 속에서 완전히 새로운 규칙이 별안간 떠오르는 현상을 말한다. 생물 유전의 돌연변이에 해당하는 개념이다. 규칙 없는 혼돈의 소용돌이에서 문득 나타나는 질서는 카오스나 프랙탈 과학의 산물이다. 겉으로는 무질서해 보이지만, 그 안에는 반복되는 패턴과 일정한 구조가 숨어 있다는 뜻이다. 자연에서는 이런 현상을 발견할 수 있지만, 인공적인 질서에서 창발이 나타났다는 기록은 아직 존재하지 않는다.

매일 쏟아지는 AI 뉴스 한편에 원로작가 황석영 씨가 자신의 신작 소설에 오픈AI를 작품 구상과 줄거리 짜기에 활용했다는 소식도 들어있다. 또, 문화체육관광부 산하 한국문학번역원에서 영미권에 수출할 조선시대 선비의 한시를 인간 번역가와 AI 번역으로 나누어 의뢰한 결과, 16명의 영문과 교수 심사위원 중 12명이 AI 번역의 손을 들어줬다는 뉴스도 있다. 우리는 AI의 인간 초월 뉴스에 놀라며 디스토피아의 공포에 사로잡히기 일쑤다. 

 

하지만 현재 과학 수준에서 자의식을 가진 AI는 상상일 뿐이다. 지능과 자의식이란 개념을 기계 기준으로 재정의하는 새 과학이 출현하기 전에는 말이다. 그래서 AI를 최소한 도구로 잘 다루거나, 업무와 휴식의 동반자로 함께 잘 어울리는 훈련이 더 필요하다. 이것이 바로 인간중심 AI의 이상(理想)이다.

▲ 노성열 논설위원

 

[ⓒ KPI뉴스. 무단전재-재배포 금지]