"개인정보 처리에 대해 이용자가 명확히 인지할 수 있어야" 개인정보 유출 논란이 일었던 인공지능(AI) 챗봇 '이루다' 개발사 스캐터랩에 개인정보보호위원회가 1억330만 원의 과징금과 과태료를 부과했다.
송상훈 개인정보위 조사조정국장은 28일 이루다 관련 조사 결과 브리핑에서 "AI 기술 기업의 무분별한 개인정보 처리를 제재한 첫 번째 사례"라면서 이같이 밝혔다.
이루다는 지난해 12월 페이스북 메신저 기반으로 출시된 챗봇이다. 초기에는 자연스러운 대화를 할 수 있다는 입소문이 나며 이용자를 끌어모았으나, 이름이나 주소 등 개인정보가 제대로 삭제되지 않은 것으로 나타나 논란에 휩싸였다. 스캐터랩은 지난 1월 이루다 서비스를 잠정 중단했다.
개인정보위는 지난 1월 12일 관련 조사에 착수했으며, AI 개발과 서비스 제공과정에서의 개인정보 처리현황, 법리적·기술적 쟁점에 대해 산업계, 법학계, 시민단체 의견을 수렴하고 수차례의 논의 과정을 거쳐 이러한 행정처분을 의결했다.
조사 결과 스캐터랩은 자사의 애플리케이션 서비스인 '텍스트앳'과 '연애의 과학'에서 수집한 약 60만 명의 카카오톡 대화문장 94억여 건을 지난해 2월부터 올해 1월까지 이루다의 AI 개발과 운영에 이용한 것으로 확인됐다.
송 국장은 "스캐터랩은 이루다 AI 모델 개발을 위한 알고리즘 학습 과정에서 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등의 개인정보를 삭제하거나 암호화하는 등의 조치를 전혀 하지 않았다"고 설명했다.
또한 "이루다 서비스 운영과정에서도 20대 여성의 카카오톡 대화문장 약 1억 건을 응답 데이터베이스(DB)로 구축하고, 이루다가 이 중 한 문장을 선택해 발화할 수 있도록 운영했다"고 말했다.
개인정보위는 스캐터랩이 텍스트앳과 연애의 과학 개인정보처리방침에 신규 서비스 개발을 포함시키고, 이용자가 로그인함으로써 이에 동의한 것으로 간주했다면서 이는 이용자가 이루다와 같은 신규 서비스 개발 목적의 이용에 동의했다고 보기 어렵다고 봤다.
아울러 신규 서비스 개발이라는 기재만으로 이용자가 이루다 개발과 운영에 카카오톡 대화가 이용될 것에 대해 예상하기도 어려웠으며, 이용자의 개인정보 자기결정권이 제한되는 등 이용자가 예측할 수 없는 손해를 입을 우려가 있다고도 했다.
이를 토대로 개인정보위는 스캐터랩이 이용자의 개인정보를 수집한 목적을 벗어나 이용한 것으로 판단했다.
스캐터랩은 개발자들이 코드를 공유하고 협업하는 웹사이트인 깃허브에 2019년 10월부터 올해 1월까지 이름 22건과 지명정보 34건, 성별, 대화 상대방과의 관계 등이 포함된 카카오톡 대화문장 1431건과 함께 AI 모델을 게시한 것으로 파악됐다.
송 국장은 이에 대해 "가명정보를 불특정 다수에게 제공하면서 특정 개인을 알아보기 위해 사용될 수 있는 정보를 포함했다는 이유로 개인정보보호법 제28조의2 제2항을 위반한 것이라고 판단했다"고 설명했다.
그는 "이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고 개인정보 처리에 대해 정보 주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다"고 짚었다.
아울러 "전문가들조차 의견이 일치되지 않아 그 어느 때보다 격렬한 논쟁이 있었고 매우 신중한 검토를 거쳐서 결정됐다"면서 "본건에 대한 처분 결과가 AI 기술 기업이 개인정보를 이용할 때에 올바른 개인정보 처리 방향을 제시하는 길잡이가 되고, 기업이 스스로 관리·감독을 강화해 나가는 계기가 되기를 바란다"고 말했다.
KPI뉴스 / 권라영 기자 ryk@kpinews.kr
[ⓒ KPI뉴스. 무단전재-재배포 금지]
