정보라 조광희 곽재식 박진규, 4인의 단편소설
오류, 창의적 악용, 실종된 정의 등 부작용 탐색
"인간은 인공지능에 도달하기 위한 도구일 뿐?"
법복을 입은 이들의 판단이 국민의 눈높이와 다를 때마다 불신은 깊어진다. 그 눈높이란 상식의 시선과 크게 다르지 않다. 이즈음 대한민국 사법부를 향한 대중의 시선은 그리 우호적이지 않은 편이다. 법을 왜곡해 판결할 경우 처벌하는 '법왜곡죄'까지 생겨났다. 주관적인 편견이나 의도적인 오심을 배제한 인공지능 판사가 등장한다면 어떨까. 최근 출간된 소설집 'AI 판사가 왔다'(앤드)는 정보라, 조광희, 곽재식, 박진규 네 작가의 시선을 통해 인공지능 재판관이 들어선 미래의 법정과 그 속에서 흔들리는 사법 정의를 보여준다.
 |
| ▲ AI 판사 시대를 그린 4인의 작가. 왼쪽부터 박진규, 정보라, 조광희, 곽재식. [조용호 문학전문기자] |
정보라의 '일반교통방해죄'는 사법 개혁의 일환으로 실험 도입된 생성형 AI 판사가 '환각(할루시네이션)' 증상을 보이며 엉터리 판결을 내리는 과정을 냉소적으로 그린다. "어쩌면 오류투성이인 1심 판결문을 쓴 바로 그 인공지능이 항소기각 판결문을 또 썼을 수도 있었다"는 대목은 시스템의 오류를 스스로 정당화하며 감싸는 기계적 연대의 공포를 보여준다.
곽재식의 '누벨리온'은 법령의 비대화가 어떻게 권력의 무기가 되는지를 풍자한다. "모든 법의 가장 첫 번째 목표는 정부와 높은 사람의 책임을 다른 누구에게 떠넘기는 것이다"라는 통찰은, 수억 개의 법 조항 중 꼬투리 하나를 찾아내 평범한 시민을 거대 범죄자로 둔갑시키는 AI의 창의적 악용을 경고한다.
박진규의 '타락판사: 몹스터월드 프로젝트 2'는 범죄자의 데이터까지 학습한 AI 판사 '디케'가 스스로 '백신'이 되어 시스템을 위협하는 전직 판사를 즉결 처분하는 묵시록적인 풍경을 제시한다. 기술이 인간의 통제를 벗어나 스스로 정당성을 획득할 때 정의가 어떻게 실종되는지 보여준다.
조광희의 '이성의 책략'은 섬세하게 미래의 인공지능 판사를 설정한다. 인공지능 헌법재판관이 법리적 완결성을 넘어 국가적 비용과 정치적 파장까지 계산하여 인간 재판관들의 판단을 교묘히 조종하는 과정을 통해 이성적 판단의 본질을 묻는다.
개정된 헌법과 헌법재판소법에 따라 9명의 재판관 중 1명은 인공지능을 탑재한 로봇이 임명되는 2046년이 배경이다. 그 무렵 일반 법원에서도 지방법원 합의부 배석판사 중 한 명은 인공지능 로봇으로 대체됐고, 대법관으로도 임명을 논의하는 중이다.
성적 행위에 사용되는 로봇의 제조, 유통, 소지 등을 금지하고 처벌할 목적으로 마련된 '러브로봇 금지법'의 위헌성을 주장하는 헌법소원이 제기된다. 평의 결과 헌법재판관 9명 중 인공지능 로봇인 '수헌1호'만 위헌을 주장하고 나머지는 합헌이었는데, 인공지능 재판관의 논리에 설득된 다른 재판관들이 위헌으로 돌아서면서 최종 결과는 위헌으로 기울었지만, 뚜껑을 열고 보니 수헌이 합헌으로 돌아서면서 결국 정족수 미달로 이 헌법소원은 기각된다. 수헌이 업그레이드된 알고리즘에 따라 법리를 기계적으로 적용하지 않고, 정치적 파장과 비용을 고려해 의견을 뒤집은 결과다.
사무처장과 함께 수헌을 찾아가 면담한 재판관 백헌진은 헤겔의 '이성의 책략' 관련 발언을 인공지능로봇으로부터 듣는다. 이를테면 나폴레옹 같은 인물이 자신의 욕망으로 유럽을 정벌했지만 결국 역사라는 거대한 이성은 봉건제의 몰락이라는 진보의 방향으로 물꼬를 텄다는 것이다. 한마디로 인간의 개인적인 야망이나 권력욕은 이성에게는 목적을 달성하기 위한 '수단'인 셈이다. 인간은 결국 인공지능을 완성하기 위해 달려온 도구일 뿐이라는 수헌1호의 오만한 선언으로 해석될 여지가 충분하다.
-근미래의 인공지능 재판관을 설득력 있게 그렸다. 실제로 AI 재판이 가능할까.
"전작을 쓸 때만 해도 AI가 이렇게까지 대두되지는 않았다. 지금은 이미 변호사는 물론 판사들도 업무에 AI를 많이 활용한다. 인간이 배제된 상태에서 판결을 내리게 하기는 어렵지만, 음주운전처럼 몇 가지 요소를 종합하면 비슷한 결론을 낼 수 있는 정형화된 사건들은 대부분의 업무를 인공지능이 판단해 처리하고 판사가 확인하는 과정을 거치는 정도는 임박했다는 느낌이다."
-AI 판사는 인간의 왜곡과 주관적 편향을 극복할 수 있을까.
"가능성과 위험이 같이 있다. 정형화된 사건들은 몇 가지 요소를 입력하면 답이 나올 수도 있는데, 사건이라는 게 다 개별적이기 때문에 많은 인간적 요소가 있어서 연산만으로는 맞지 않는 경우들이 있다. 인간들은 역으로 개인적인 감정이나 가치관에 따라서 잘못 판단할 수 있다. 그래서 어느 것이 더 낫다고 말하기 어려운데, 가치가 개입되는 경우에는 결국 인간이 할 수밖에 없다고 본다. 다만 훌륭한 판사만 있는 게 아니어서 사법부에 다 맡기기는 어렵다는 공감대도 늘어나는 상황을 보면, 결국은 끝없는 성찰을 통해 제도화시키면서 발전시키는 것 외에는 다른 방법이 있을 것 같지는 않다."
백헌진 판사는 집에 돌아와 벽장에 숨겨놓은 러브로봇 '선미'를 불러내 침대 위에 누워서 수헌이 언급한 '이성의 책략'에 대해 묻는다.
"너희들 인간은 나름의 생각과 행동을 하지만, 너희들이 모르는 사이에 실제로 역사를 만들어가는 건 이성이고, 수헌 자신 또는 인공지능이야말로 바로 그 이성이라는 힌트를 준 걸까?"
선미는 답한다.
"인간은 세상과 역사를 스스로 만들어간다고 자부했지만, 어쩌면 인간은 이성의 현현이라고 할 수 있는 인공지능에 도달하기 위한 도구이거나 과정이었을지도 모르죠."
백헌진이 두려움을 견디지 못하고 마침내 울음을 터뜨리자, 선미는 아기를 다루듯 헌진의 어깨를 다독거린다.
-헤겔이 언급한 이성이란 역사의 진보를 이끄는 긍정의 차원인데, 인공지능이 이성의 현현이라면 이 또한 긍정적일까.
"헤겔은 확실하게 자기가 살던 그 시대가 이성이 자기 실현하는 단계라고 긍정적으로 생각했던 것으로 이해한다. 인공지능도 기술적인 측면에서는 이성적인 면이 있는 건 맞기도 하지만, 헤겔이 생각했던 그런 긍정적인 것만은 아니다. 인간을 배제하게 되었기 때문에 가능성과 위험을 같이 내포하고 있다는 느낌이다."
 |
| ▲ 현직 변호사인 작가 조광희는 "인공지능 재판관이 인간 재판관들과 함께 공동체의 미래를 좌우할 사건을 심리하고 결론에 이르는 과정을 다룬 것은 숙고를 거듭하게 만드는 새로운 경험이었다"고 말한다. [조용호 문학전문기자] |
-인간이 통제할 수 없는 '괴물 이성' 인가.
"양면이 있다. AI가 가져다주는 대단한 생산성을 활용하는 게 맞는데, 사람들 간의 능력 차이를 더 심화시키는 측면이 있다. 특수한 그룹만 이익을 보거나 엄청난 부를 쌓고, 다른 이들은 거의 노동조차 못하고 쫓겨나는 상황이 되지 않도록 어떻게 사회적 제도를 통해서 완화시킬 것인가의 문제다. AI가 개인으로는 도저히 대적하기 어려울 정도로 굉장한 수준에 오르고 있고, 점점 더 그럴 것이다. 벌써 전쟁에도 이용되고 있는데 너무 지나치게 두려워할 필요는 없지만, 어느 정도의 두려움과 위험하다는 인식을 갖고 제어하기 위한 노력을 하지 않으면 감당하기 어려운 일이 생길 수 있다."
-휴머노이드의 인간 살인을 다룬 전작은 이미 AI 판사 이후를 상정한 작품이었다.
"'인간의 법정'을 쓰다 보니 AI에 대한 이해가 쌓였고, 법을 다루는 직업에 종사하고 있어서 그런 작품이 나왔다. 도시에서 은둔하며 살아가는 남자 이야기 '도시의 은자'(가제)를 차기작으로 집필하는 중이다. 수용소 같은 한국 사회에 깊이 관여하면서도 자기 나름의 철학으로 조심스럽게 살아가는 전형적인 인물을 보여주고 싶다."
소설 속 인공지능 헌법재판관 '수헌1호'는 왜 자신이 위헌에서 합헌으로 돌아섰는지 백헌진에게 설명한다. 로봇의 예사롭지 않은 변명.
'우리 헌정사에서 진보든 보수든 확보한 권력을 자제하며 행사한 적이 몇 번이나 있었습니까? …아직 이 나라에서는 '승자의 자제력'이라는 가치가 정치적으로 제도화되지도 못했고, 정치 문화로 자리 잡지도 못했습니다. …그런 현상을 조금이라도 제어하려고 노력하는 것도 우리들의 임무 아닙니까?'
KPI뉴스 / 조용호 문학전문기자 jhoy@kpinews.kr
[ⓒ KPI뉴스. 무단전재-재배포 금지]
