1년에 9000권의 책을 펴낸 슈퍼 출판사가 나왔다고 한다. 하루에 20권꼴이다. 이 출판사에는 4개월 동안 혼자 137권을 출판한 슈퍼 작가도 있었다. 모두 인공지능(AI) 서적들이다. AI로 주제를 정하고, 목차를 짜서, 이에 맞는 본문도 LLM(대규모언어모델)으로 뽑아낸다. 삽화와 도표 등 시각적 보조물을 이미지 생성 AI로 출력해 본문과 맞춘 다음, 클로드 등 언어능력이 강력한 또 다른 AI가 내용을 수정하면서 감수 작업까지 완료한 후 최종적으로 교열도 본다. 인쇄 비용이 들지 않는 전자책 시장에 AI 책이 가장 많이 범람하고, 종이책 판매대에도 상당량이 올라온다는 후문이다. 서점 관계자는 "출판의 자유가 보장되는 법 체계상 판매를 금지할 명분이 부족하다"며 "양서(良書)가 아닌 책도 책인 만큼, 따로 홍보를 안 하는 등 소극적인 제재에 그칠 수밖에 없다"고 말한다.

 

▲ AI 생성물 관련 이미지. [챗GPT 생성]

 

얼마 전에 작곡·작사가들의 음원 저작권을 대신 걷어 나눠주는 한국음악저작권협회의 일부 간부가 매장의 배경 음악에 사용되는 AI 음원을 제작, 보급하는 회사를 차려 운영하면서 수십억 원의 수입을 올렸다가 횡령과 배임 혐의로 수사를 받고 있다. 이들은 수요는 넘쳐나는데 기존 창작자들은 아무도 모르거나 관심이 없자 스스로 사업에 뛰어들었다가 본분을 어긴 대가를 치르게 됐다. 사건의 배경에는 넘쳐나는 AI 음원 수요가 있었다. 커피숍, 옷가게, 헬스센터 등 소규모 자영업자들은 백화점, 야구장 같은 대형 집객시설처럼 정식으로 음악 저작권료를 치르고 배경음악을 틀 사정이 안됐다. 영세업체들은 저작권료 시비 없이 인간 음악보다 수십 배 더 싼 AI 음원을 정기 계약해 트는 게 훨씬 유리했던 것이다. AI 음악은 어디선가 들어본 것 같은 그럴듯한 사운드를 내지만 기존의 곡을 학습해 혼성 모방한 짝퉁이다.

유튜브나 릴스, 틱톡 등 동영상 콘텐츠를 자주 소비하는 파워 유저라면 요새 부쩍 늘어난 AI 동영상에 한숨을 쉬는 일이 많아졌을 것이다. 주로 세미 포르노물처럼 말초신경을 자극하려는 저급한 동영상이 주류를 이루지만, 어학 학습용이나 교육용 콘텐츠처럼 건전한 것들도 제법 있다. 자세히 보면 어색한 동작이나 어눌한 발음, 매끄럽지 못한 흐름이 눈에 띄지만 AI 저작물에 익숙지 않은 고령자나 초보들에게는 자연스럽게 받아들여지고 있다. 글이나 이미지, 소리를 생성해내는 AI가 처음 나왔을 때 양(量)으로는 경쟁이 불가능한 AI 저작물이 홍수처럼 쏟아져 디지털 생태계를 장악할 것이라는 우려가 일각에서 제기됐다. 뉴스나 백과사전 같은 텍스트, 동영상과 음향 플랫폼에 AI가 제작한 생성물이 압도적인 다수를 차지하면서 디지털 콘텐츠의 신뢰 및 윤리성이 저하돼 정보 유통에 일대 혼란이 올 것이란 예언이었다. 이제 그 예언이 현실로 다가온 셈이다.

AI 생성물이 홍수를 이룬 이 현상을 우리는 어떻게 받아들여야 할까. 일단 변화를 수용하는 긍정적인 자세가 필요하다. AI가 인간처럼 쓰고 그리고 소리를 만들어내는 능력은 이제 기술로 인해 당연한 일이 됐다. AI 생성물은 비록 인간의 오리지널 창작물보다 품질이 조악하고 영감과 감동을 주는 통찰력도 없지만 나름의 쓰임새가 있을 것이다. 거의 모든 시장에 저비용 B급 시장이 형성된 현실을 돌아보라. 옷도, 식당도, 비행기도 저비용 시장은 오히려 소수의 비싼 고급 시장을 능가하며 높은 보급률로 커다란 효용을 주고 있다. 누군가 저비용 식사를 고열량의 포르노 푸드라며 비난하겠지만 주머니 가벼운 서민에게 분명한 만족을 주는 것도 사실이다. 특권층과 서민의 양극화 논쟁은 여기서 잠시 미루어 두자. 실물 상품이나 서비스처럼 디지털 재화도 고급형 대 보급형으로 시장이 나눠지며 선택의 범위가 확장되는 건 어찌 보면 당연한 진화의 과정이다. 그러면 AI 생성물을 현실적으로 수용하자는 전제 아래, 어떻게 하면 부작용을 최소화할까 하는 제도의 설계로 넘어간다. 

 

4가지를 제안한다. 첫째, 인간 저작물과 AI 생성물을 구분해야 한다. 'AI 생성' 레이블을 달아야한다는 얘기다. 위에 예를 든 책 시장은 AI 저자 표시가 되어 있지 않다. 이는 독자를 속이는 사기 행위다. 알고 고를 수 있도록 분명하게 눈에 띄는 표식을 다는 의무화가 요구된다.

둘째, AI 생성물의 제작 및 유통 주체에게 대가를 치르게 해야 한다. 인간 저작물을 정당한 대가 없이 AI 학습에 무단 이용하는 경우, 저작권료를 내도록 제도 개선에 착수해야할 것이다. 이 문제는 해외에서도 공정이용(fair use)이나 TDM 법리 등 아직 뚜렷한 기준은 정립되지 않은 상태이지만, 저작권료를 치르지 않은 해적 데이터로 학습시키는 일은 불법이란 인식이 굳어가고 있다. 우리만의 원칙을 세워야 한다. 참고로 얼마 전 독일 법원은 세계 최초로 노래 가사로 AI 모델을 훈련시킨 행위가 저작권법 위반에 해당한다고 판결했다. 지난 11일 독일 뮌헨 지방법원은 독일음악저작권협회(GEMA)가 오픈AI를 상대로 낸 소송에서 "챗GPT가 저작권이 있는 가사를 기억하고 재생산했다"며 원고 승소 판결을 내렸다. GEMA는 지난해 11월 "챗GPT가 허가 없이 독일 대중가수 곡 등 9곡의 가사를 학습하고, 사용자 요청에 따라 원문에 가깝게 출력했다"며 소송을 제기했었다.

셋째, 만약 원작자를 찾아 저작권료 지불로 가는 프로세스가 기술과 제도적 미비로 어렵다면 AI 생성물에 세금이라도 매겨야 한다. 이 공공자금은 원작자 보호와 유해한 AI 생성물 솎아내기 등 시장질서 유지에 충당하면 된다. AI 전문가들은 위키피디아, 깃허브(GitHub) 같은 디지털 공유지에 휴먼 데이터보다 AI 데이터가 더 많아질 날이 머지않았다고 경고한다. 옥석을 가려 양질의 데이터가 네트워크에 흐를 수 있게 수질(水質) 관리에 당국이 나서야 한다는 말이다.

마지막으로 AI 리터러시 교육이 필요하다. AI 워터마크가 달려있더라도 분별력이 부족한 어린이와 노인 등 디지털 소수자는 악성 콘텐츠에 노출될 위험이 크다. 수용자가 스스로 현명한 소비를 할 수 있도록 문해력 높이기 교육에 정부가 나서야한다.

유발 하라리는 최신 저서 '넥서스'에서 "AI가 휴먼 네크워크에서 하이브리드 네트워크로 가는 새로운 정보의 연결을 만들 것"이라고 말했다. 정보의 연결은 진실과 질서를 형성한다. 정보는 진실의 표상(재현, representation)이므로 여러 정보가 합쳐지는 방식과 그 결과는 새로운 현실, 새로운 질서를 만들어낸다. 사람만 있을 때 정보의 연결은 곧 사람-사람의 연결이었다. 휴먼커뮤니케이션의 가장 강력한 도구는 이야기(storytelling)였다. 신화, 종교, 철학, 과학, 예술은 맥락 있는 이야기로 구성될 때 최고의 힘을 발휘했다.

그러나 AI가 등장하자 정보의 연결은 AI-AI, 인간-AI의 혼합 연결로 바뀌었다. 더 이상 이야기가 가장 강력한 커뮤니케이션 도구가 아니라는 뜻이다. 이야기에 이어 알고리즘과 새로운 기계 소통 방식이 정보의 흐름 속에 등장할까. 인간-비인간, 유기(有機)-비유기의 연결은 앞으로 어떤 새로운 진실과 질서를 형성할까. 쏟아지는 AI 생성물의 양과 속도에 놀라면서 디지털 세계의 새로운 질서를 고민하는 시간도 길어지고 있다.

 

▲ 노성열 논설위원

 

[ⓒ KPI뉴스. 무단전재-재배포 금지]