여러 온라인 사이트에서는 제작 방법·정보 공유
업체 금칙어 지정에도 사용자 은어·약자로 회피
규제 필요성 공감대…범위는 전문가 의견 엇갈려 챗GPT, 이미지 생성 인공지능(AI) 등이 주목받으며 AI 관련 윤리 문제도 도마에 오르고 있다. 일반인의 이미지 생성 AI 사용이 쉬워지며 AI를 이용한 음란물 제작이나 초상권 침해 등 범죄에 악용되는 사례가 늘어날 가능성이 높기 때문이다.
전문가들은 사회적 규제가 필요하다는데 공감한다. 하지만 규제 범위에 대해서는 의견이 엇갈리고 있다.
이미지 생성 AI는 사용자가 입력한 단어와 문장을 토대로 상응하는 그림을 그려준다. 업계에 따르면 이른바 'AI그림'의 생성이 예전보다 용이해 성인용 그림이나 음란물도 증가하고 있다.
실제 여러 온라인 커뮤니티 사이트에서는 AI그림을 공유하는 게시글들을 심심치 않게 찾아볼 수 있다. 댓글은 "실제와 구분하기 힘들다", "AI로의 완전 대체가 얼마 남지 않았다"는 등 성능을 평가하는 내용이 주를 이루고 있다.
일부 커뮤니티에서는 AI그림 제작과 관련한 게시글만 올릴 수 있는 게시판을 따로 만들었다. 이용자들은 AI그림 제작을 위한 노하우를 교환하고 좀 더 '야한' 이미지를 생성할 수 있는 정보도 공유할 수 있다.
스타트업 등 업체들은 서비스하는 이미지 생성 AI들이 음란 이미지 생성을 막기 위해 사용 불가 단어들을 지정한다. 그러나 이용자들은 약어나 은어를 입력해 회피한다.
업체 대신 인터넷에 공개된 오픈 소스 AI를 활용하는 경우도 많아지고 있다. 업체들이 제공하는 서비스는 일부 제약을 두거나 결제를 유도하는 방식이다. 사용자에겐 인터넷에서 프로그램 설치 방법을 찾아 쓰는 게 효율적이다. 비용 부담도, 금칙어 제한도 없어서다.
기술 발전에 따라 AI그림을 통한 영상 제작도 가능할 것으로 전망되는 점도 우려를 키우고 있다. 이미 AI가 그린 그림을 이어붙이는 방식으로 춤을 추는 영상을 만든 게시글이 올라왔다.
관련 업계 관계자와 전문가들은 사회적 제도를 마련해 규제해야한다는 입장이다. 다만 과도한 규제는 성장세에 들어선 시장을 위축시킬 수 있다는 지적이 나온다. 규제 범위에 대한 논란이 제기되는 이유다.
최병호 고려대 인공지능연구소 교수는 "AI를 통해 그림을 생성하는 것 자체는 막기 쉽지 않다"며 "다만 이를 통해 누군가의 초상권을 침해한다던가 불법적인 목적으로 이용하는 것 등에 대한 규제는 빠르게 논의되어야 한다"라고 밝혔다.
최 교수는 "가능하다면 사용자가 메신저, 온라인 사이트 등에 생성 이미지를 올릴 때 피부색 등이 얼마나 노출됐는지 알 수 있는 알고리즘을 통해 음란물인지 판단할 수 있는 방법을 개발하는 방식 등도 함께 논의되어야 한다"고 제안했다. 그러면서도 "이러한 방식은 사회적인 인식이나 합의가 먼저 된 상태여야 한다"라고 강조했다.
AI그림에 호의적인 사용자들은 "일부 부작용이 있을 수 있지만, 사람이 아닌 AI를 보호하는 규정이 필요하다는 주장은 납득하기 힘들다"며 "새로운 규제 신설은 예상치 못한 곳에서 통제 강화라는 부작용을 낳을 수 있어 찬성하지 않는다"라고 입을 모은다.
한 업계 관계자는 "챗GPT와 같은 대화형 AI나 이미지 생성 AI와 같은 영역은 기술 개발을 거쳐 이제야 성장세에 들어갔다고 볼 수 있다"며 "그런데 벌써부터 부작용이 염려된다는 이유만으로 여러 규제들을 신설한다면 해당 기술에 대한 인식이나 소비자들의 유입에 부정적인 영향을 미칠 수 있어 신중한 접근이 필요해 보인다"라고 설명했다.
나보균 한국공학대학교 컴퓨터공학부 교수는 "초상권이나 상업적 이익을 취하는 문제 등에 있어서는 선제적인 규제 마련을 통한 제한을 두는 것이 바람직해 보인다"면서도 "하지만 과도한 규제는 자유로운 창작의 저하를 불러올 수 있는 만큼 규제 마련에 신중한 접근이 필요하다"라고 말했다.
KPI뉴스 / 김해욱 기자 hwk1990@kpinews.kr
[ⓒ KPI뉴스. 무단전재-재배포 금지]
