"전문가 견해 수용…위험행동 라이브 발견 시 관할 기관에 알려"
"인공지능에 5년간 투자…유해 콘텐츠의 90% 이상, 사전 차단"

최근 연예인들이 잇따라 극단적인 선택을 하면서 이른바 베르테르 효과'를 우려하는 목소리가 나오고 있다. 페이스북은 문제 상황에 놓인 개인에게 도움의 손길을 내밀고, 인공지능(AI) 기술을 동원해 관련 게시물의 삭제율 높이는 등 다양한 노력을 하고 있는데 실제로 지난 3분기에 관련 콘텐츠 250만 건 중 97.3%를 AI가 사전에 감지하는 성과를 이뤄냈다.

페이스북코리아는 28일 서울 역삼동 본사에서 미디어 세션을 열고 가장 최근에 업데이트된 커뮤니티 규정(Community Standard)을 설명하는 시간을 가졌다. 이날 발표자로 나선 유동연 페이스북 APAC 콘텐츠 정책매니저는 자살 및 자해 관련 데이터는 올 3분기에 약 250만 개로, 해당 콘텐츠들을 모두 삭제했고 이 중 97.3%는 사전에 감지해 차단한 게시물이라고 전했다. 인스타그램 경우 2분기에 약 83만5000개의 콘텐츠를 삭제(77.8%·사전감지)했고, 3분기에는 약 84만5000개를 삭제(79.1%·사전감지)했다.

페이스북은 자사 커뮤니티 규정 내에 유해 콘텐츠를 △가짜계정 △스팸 △성인 나체 이미지 또는 성적인 행위 △폭력적이고 자극적인 콘텐츠 △테러리스트 선전 △혐오발언 △따돌림과 집단 괴롭힘 △마약판매 △아동 나체이미지 및 아동에 대한 성착취 △자살 및 자해 등 10가지 항목으로 나눴다.

페이스북 측은 이 중에서도 극단적인 선택이나 행동을 암시하는 게시물에 신중하게 접근한다고 밝혔다. 유 매니저는 "관련 콘텐츠를 차단하는 것이 바람직한지 아니면 그대로 두는 것이 도움이 되는지 등에 대해서는 자살예방전문가들의 조언을 얻고 있다"고 설명했다.

그러면서 "가령 '섭식장애 친구를 구한다'는 게시글이 있다면 즉각 삭제한다"며 "극단적인 선택이나 섭식장애 같은 자해 행위를 종용 또는 협력을 요청하는 콘텐츠는 허용되지 않는다"고 전했다.

이때 게시 당사자에게 삭제 통보 메시지와 함께 도움을 요청할 수 있는 단체에 대한 정보를 제공한다.

유 매니저는 또 "일러스트 등 극단적인 선택이 미화된 콘텐츠 역시 삭제 조치된다"며 "자살이나 자해에 대해 긍정적인 표현을 하는 콘텐츠는 허용되지 않는다"고 강조했다.

‹UPI뉴스›는 "어떤 행동을 종용하는 게시물이라고 하더라도 삭제 조치를 해버리면 주위 사람들이 이를 인지하지 못 한 채 넘어갈 수 있다"며 "섭식장애 등 문제 상황에 놓인 한 개인이 고립돼버리는 문제가 있지 않으냐"라는 질문을 던졌다.

이에 유 매니저는 "특정 그룹 내에서 극단적인 행동을 유도하는 게시물은 엄격하게 규제한다"며 "다만 자살이나 자해를 하는 라이브의 경우 실시간으로 콘텐츠를 내리지는 않는다"고 설명했다. 유 매니저에 따르면 전문가들은 영상을 중단시키면 자해 당사자를 더욱 고립 시켜 극단적인 선택으로 이르게 한다는 의견을 냈고, 페이스북은 이 같은 내용을 커뮤니티 규정에 반영했다.

이어 "관련 라이브를 발견하면 해당 관할 구역 기관에 도움을 요청한다"면서 "이미 일이 일어났을 때는 콘텐츠를 내리지만 어떠한 방법이 최선인지는 계속 고민하고 있다"고 부연했다.

페이스북은 또 AI 기술을 동원해 커뮤니티 규정 내 유해 항목의 사전 조치 비율을 대부분 90% 이상으로 높였다고 강조했다. 유 매니저는 "페이스북이 AI에 5년간 적지 않은 투자를 단행한 것도 사용자 신고가 들어오기 전에 미리 감지해서 조치를 취하기 위한 것이다"고 말했다.

하지만 혐오발언(80.1%), 따돌림·집단괴롭힘(16.1%)은 사전 조치에 있어 저조한 수치를 기록했다.

이에 유 매니저는 "가짜 계정이나 스팸, 나체 사진과 동영상 등은 AI가 비교적 정확하게 걸러낼 수 있다"며 "반면 따돌림과 혐오 발언 등은 맥락 등에 따라 달라질 수 있어 사람이 직접 판단해야 한다"고 설명했다. 그러면서 "하루에 전 세계적으로 접수되는 신고건수만 100만 건이 넘기에 전 세계에 이용자 신고를 검토하는 전담인력은 1만5000명에 달한다"고 전했다.

한편 과거 페이스북은 '김치녀' 페이지는 차단하지 않았지만 '한남충' 페이지는 차단해 '블루 일베'(페이스북 로고색을 일베에 빗댄 말)라는 논란이 불거진 바 있다. 커뮤니티 규정 항목인 '혐오발언'을 규제하는 데는 모호하고 편향적인 입장을 취한다는 비판에 직면한 것이다.

이에 대해 유 매니저는 "'한남충'은 한국 남자 전체를 비하하는 단어지만 '김치녀'는 특정 행태를 보이는 여성 일부를 지칭하는 말이기 때문에 혐오발언으로 분류하지 않았다"고 설명했다. 이어 "다만 김치녀 페이지도 게시물 삭제 사례가 누적되면 삭제될 수 있다"고 덧붙였다.

그러면서 "모호한 콘텐츠에 대해선 이용자들의 피드백이 중요하다. 향후 문제 해결 사례를 남기는 데 도움이 되기 때문"이라며 "페이스북은 앞으로도 이용자들이 안전하게 플랫폼을 이용할 수 있도록 최선을 다하겠다"고 강조했다.​​

KPI뉴스 / 김혜란 기자 khr@kpinews.kr

[ⓒ KPI뉴스. 무단전재-재배포 금지]