'하윤수 AI' 통해 딥페이크 위험성 알려

"저 하윤수는 OO고 학생들을 위해 세 가지의 약속을 드리려고 합니다. 첫째 OO고를 남녀 공학으로 전환할 것입니다. 둘째 매주 1회 두바이 초콜릿을 제공하고, 셋째 이번 축제에 초대 가수로 방탄소년단과 라이즈를 섭외해 올 것입니다."

 

▲ '하윤수 AI' 딥페이크 영상물 [채널A 방송 캡처]

 

하윤수 부산시교육감의 딥페이크(AI 기반 이미지 합성) 영상물이 화제다. 이 영상물은 최근 딥페이크 범죄 등에 대한 법교육 특강에 나선 하 교육감이 고교 현장에서 자신을 본뜬 가상 인물이라며 소개한 '하윤수 AI'의 솔깃한 공약을 담고 있다.

등장 인물은 이 같은 공약을 제시한 뒤 "여러분들 제 공약 마음에 드시나요? 사실인 줄 아셨다면 여러분은 저에게 속으신 것입니다. 사실 저는 진짜 하윤수가 아닌 인공지능 기술로 제작된 하윤수 AI입니다"로 말을 맺는다.

해당 영상물은 7일 저녁 종합편성채널 '채널A' 뉴스톱10에서도 소개할 정도로 눈길을 끌었다. 방송 패널로 출연한 장윤미 변호사는 "그냥 듣는다면, 하윤수 교육감의 얼굴 그대로이고 음성도 감쪽같아 사람들이 (얼마나 잘) 속을 수 있는지를 보여준다"며 딥페이크의 정교한 기술력에 놀라워했다.

하윤수 교육감은 지난달 28일 경남고교에 이어 이번 달 2일 부산고교에서 급증하는 딥페이크 성범죄 근절과 예방을 위한 특강을 실시했다.

 

교육감 이외에도 시교육청과 협약을 맺은 변호사와 경찰관 등이 시내 전체 초·중·고를 대상으로 딥페이크 성범죄 확산에 선제 대응하기 위해 '법 교육' 특강에 나서고 있다. 

 

교육은 인공지능 등을 이용한 이미지 합성·배포를 범죄가 아닌 장난으로 생각하는 학생들의 인식을 개선하는 데 중점을 두고 있다.

 

시교육청은 8월 말 기준 초·중·고 625개 교 중 279개 교(44.3%) 교육을 완료했고, 나머지 학교들은 12월 13일까지 교육을 마칠 계획이다.

하윤수 교육감은 "딥페이크 성범죄를 포함한 각종 폭력과 비행의 심각성을 널리 알리고, 이를 예방하기 위한 인식을 개선하는 데 전력을 다하고 있다"고 전했다.

 

한편 시교육청은 딥페이크 성범죄 가해 학생 처벌을 대폭 강화하기로 했다. 현행 학교폭력대책심의위원회(학폭위) 내 특별소위원회를 구성해 딥페이크 범죄 가해자에 대해 학폭위 심의 기준보다 엄정한 기준을 적용하도록 권고했다. 

 

딥페이크 범죄 피해자 보호 조치도 강화한다. 시교육청은 이달 중 딥페이크 관련 '핫라인 신고 시스템'을 구축한다. 핫라인 신고 시스템에는 △부산경찰청 △16개 구·군 △디지털 성범죄 피해자 지원센터(이젠센터) △방송통신신심의위원회가 참가한다. 

 

딥페이크 피해를 당한 학생들은 '경찰청 학교·여성폭력 및 성매매피해 신고 전화' 117로 통화하면 도움을 받을 수 있다.

KPI뉴스 / 최재호 기자 choijh1992@kpinews.kr 

[ⓒ KPI뉴스. 무단전재-재배포 금지]