빅테크 기업에 악용 소지 없애는 기술 장벽 설치 요구해야
디지털 괴롭힘과 젠더 감수성에 대한 교육·법제 재정비 긴요
주변 아는 이성(異性)의 신체 사진을 야한 영상과 합성해 유포하는 딥페이크 성범죄가 우리나라에서 텔레그램의 '지능방(지인 능욕방)' '겹지인방(겹치는 지인 능욕방)'을 통해 독버섯처럼 번지고 있다. 올해 5월 서울대 첫 사건이 터진 후 "해외 서버라 수사하기 어렵다"며 경찰에서 미적거리는 사이에 다른 대학과 군대, 직장을 거쳐 중고교까지 유사 범죄가 퍼져나간 것이다. 피해자들은 돌이킬 수 없는 상처를 받았고 치유와 회복이 요구된다. 가해자 역시 죄질을 가려 반성과 속죄의 길을 밟아야 한다.
 |
| ▲ 지난 29일 오후 서울 강남역서 열린'딥페이크 성범죄' 규탄 집회. 서울여성회와 서울여성회 페미니스트 대학생 연합동아리가 주최했다.[뉴시스] |
국회 행정안전위원회 조은희 국민의힘 의원실이 8월 21일 경찰청으로부터 받은 자료에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 지난해 180건으로 해마다 늘고 있다. 특히 10대 피의자 수는 2021년 78명 중 51명(65.4%)에서 지난해 120명 중 91명(75.8%)으로 증가했다. 4명 중 3명이 10대라는 얘기다. 20대(20%)를 합치면 전체 범죄 가해자의 95.8%가 10, 20대이다. 아이들이 일찍부터 성범죄의 유혹과 위험에 노출되고 있는 것이다.
이 신종 범죄의 처벌과 방지책을 둘러싼 쟁점은 매우 복잡하다. 신기술의 역기능에 대한 규제와 양성평등 문제가 얽혀있다. 차례로 생각해보자. 딥페이크 성 착취물은 2년 전 대중화된 생성형 인공지능(AI) 기술의 새로운 부작용이다. 성 상품화의 포르노물은 오래전부터 있었다. 5년 전 N번방 사건은 여기에 괴롭힘이 합쳐진 범죄였다. 몰래 또는 강제로 촬영한 이성의 영상을 돈벌이나 학대의 수단으로 악용했다.
이번 사건은 여기에 또 영상 합성이란 신기술이 추가된 것이다. 생성 AI의 '누구나 창작자' 기능이 인간의 악마성에 자리를 내준 비극이다. 생성 AI가 전문 작가와 화가, 사진가, 감독이나 음악가의 창작물을 학습해 그럴듯한 생성물을 뚝딱 만들어내자 대중은 환호했다. 예술 재능을 타고나지 않은 보통 사람이 창작 비슷한 즐거움을 맛볼 수 있게 했기 때문이다. 전문가들도 AI 생성보다 더 인간다운 창작을 고민하기 시작했다. 진선미(眞善美)의 밝은 세상으로 가는 계기가 될 것처럼 보였다.
하지만 위추악(僞醜惡)의 어두운 이면도 고개를 쳐들었다. 처음에는 생성 음란물(포르노)이 나왔다. 음란한 사진이나 동영상을 AI로 100% 생성한 것들이다. 그러다가 유명 배우나 지인의 얼굴을 포르노와 합친 딥페이크 합성 포르노가 유행처럼 퍼졌다. 생성 포르노는 음란물 규제의 풍속법에 따라 규율하지만, 합성 포르노는 인권을 침해하는 범죄로 처벌수위가 더 높아야 한다.
우리나라 '지인 능욕' 범죄는 합성 음란물을 이용한 디지털 괴롭힘(Cyberbullying)의 학교·직장 폭력 성격이 짙다. 그런데 기존의 학폭과 직폭 사건이 이성 사이에 발생할 뿐 아니라 동성 간에도 많았던 것과 달리, 주로 남성이 여성을 대상으로 저지른 경우가 대부분이다. 성범죄의 성격도 갖고 있음을 말해준다. 물론 드물게 여성이 남성을 대상으로 혹은 동성 간 합성한 사례도 있다고 한다. 그래도 한국형 합성 음란물 범죄의 가해자는 대개 남성이다. 그리고 청소년이다. 이들 중에는 합성 포르노 생성 주문을 대량으로 받고, 다른 청소년에게는 포인트를 준다며 유포 등 공범으로 만든 범죄단체 수괴형 제작자도 있다. 폭력을 넘어 돈벌이로 나아간 것이다. 엄벌에 처해야 할 불량 죄질이다.
여기서 음란물을 사회적으로 허용할 것인가 말 것인가의 도덕적 판단은 유보하기로 하자. 주목하고 싶은 것은 범죄의 성격이다. 우선, 젊은 10~20대가 주된 당사자들이다. 둘째, 보안이 강하기로 유명한 해외 SNS 텔레그램을 통해 유포됐다. 셋째, 남성이 여성을 상대로 저지르던 초기 행태에서 최근엔 반대의 경우나 동성이 동성을 상대로 괴롭히는 식으로 확대되고 있다. 처벌론자들은 현재 미성년자 대상 위장수사 범위를 성인으로 상향 조정하고, 아동 성 착취물이나 불법촬영 성 착취물처럼 불법 합성물도 유포뿐 아니라 소지·시청까지 처벌할 수 있도록 양형 기준을 높여야 한다고 주장한다.
2019년 텔레그램으로 성 착취물을 상업 유포했던 N번방 사건의 '박사'와 '갓갓'은 체포돼 얼굴과 신상이 공개됐다. 윤석열 대통령이 당시 검찰총장으로 직접 디지털 성범죄 특별수사 태스크포스를 지휘했을 정도로 수사력을 집중했다. 지금 합성 음란물의 확산 양상은 디지털 성 착취 엄벌 정책이 큰 효과를 거두지 못했음을 보여준다. 보다 근본적인 대책이 필요하다.
첫째, 생성 AI을 시장에 내놓은 빅테크 기업에 음란물 악용의 소지를 없애는 기술적 장벽 설치를 요구해야 한다. 제조자의 제조물 책임이다. 국내든 해외 기업이든 제조자는 소비자가 믿고 쓸 수 있도록 안전하고 기능에 부합한 상품과 서비스를 제공할 의무가 있다. 스테이블 디퓨전 같은 영상 합성 AI는 자동차와 다르다. 차를 범죄에 악용하지 못하게 막을 기술이 자동차 회사엔 없지만, AI 기업에는 있다. 영상이나 음성을 생성할 때 법적·도덕적 위반 경계에 소비자가 접근하면 목적과 사용처를 확인하는 여과 장치를 신설해야 한다. 악용하려는 의도와 용처가 의심될 때 브레이크를 거는 것이다. 술과 음란물 구매에 성인 인증을 요구하는 절차와 비슷하다.
순수 학문·예술적 수요와 악의의 수요를 구분하기 힘들겠지만 이를 해결하는 게 기업의 사회적 책임이다. 비용이 더 들어도 상관없다. 우리는 신뢰가능 제품을 원한다. 마침 텔레그램의 창업주도 프랑스에서 체포돼 재판을 기다리고 있다. 그에겐 돈 세탁과 마약 밀매, 아동 음란물이 텔레그램에서 창궐하는데도 관리자를 두지 않았다는 방조 혐의가 적용될 예정이다.
둘째, 10~20대의 디지털 괴롭힘과 젠더 감수성에 대한 교육적·법제적 재정비가 긴요하다. 디지털 괴롭힘은 딥페이크 성 착취보다 훨씬 넓은 상위개념이다. 단톡방에서 왕따 시키거나 셔틀, 조공을 요구하는 사이버 폭력의 위험을 가르쳐야 한다. 아이들에게 너희가 하는 '장난'이 범죄라는 사실을 체계적으로 교육시킬 필요가 있다. 아울러 신종 범죄에 대응한 민·형사법 개정으로 적절한 수위의 배상과 처벌이 이뤄지도록 사회적 합의를 이루는 과정도 요구된다.
이와 함께, 이성을 성적 도구화하지 않는 건강한 성교육은 필수다. 성 차별과 불평등을 알아차리는 성 인지 감수성도 배워야 한다. 양성평등의 제도화가 진전돼야 한다. 이 모든 것들이 어른의 할 일이다. 기술의 발전으로 자녀 세대가 새로운 위험에 노출됐는데 이를 예방할 제도 보완에 나서지 않는다면 부모로서의 직무유기이다.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI) 분야를 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 5단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[ⓒ KPI뉴스. 무단전재-재배포 금지]
