"AI 기술로 소비자 편익 늘었지만, 소비자 보호책 없어"
유태영 기자
ty@kpinews.kr | 2024-02-26 17:28:27
EU, 구글 겨냥한 '디지털서비스법' 이달부터 시행
AI 알고리즘, 소비자간 불평등 초래 가능성↑
인공지능 생성 콘텐츠 '워터마킹' 등 대안 마련해야
이어 "EU는 테슬라와 같은 인공지능이 탑재된 소비재나 프로그램 자체도 제조물로 여겨 과실 책임을 지우려 한다"며 "'제조물'에 디지털의 방식으로 생산된 파일과 소프트웨어, 즉 무형의 소프트웨어도 제조물에 포함돼 AI도 이에 해당된다"고 덧붙였다.
정 교수는 "하지만 이같은 EU 법안들을 한국 실정을 고려하지 않고 무비판적으로 수용하는 것은 지양해야 한다"며 "선제적 입법이나 벤치마킹 식의 입법은 신중한 접근이 필요하다"고 말했다.
이어서 'AI 관련산업에서의 소비자문제와 대응방안'이라는 주제로 양진영 법무법인 민후 파트너변호사가 주제발표를 진행했다.
양 변호사는 "인공지능 개발로 인해 맞춤형광고, 자동화로 소비자 편익이 증대된 측면이 있다"면서도 "하지만 안전성 문제, 개인정보 침해, 데이터편향으로 인한 차별 등 각종 소비자문제가 발생되고 있다"고 주장했다.
그는 데이터편향의 예시로 "과거 아마존에서 인공지능 채용시스템을 도입했더니 여성보다 남성을 선호하는 경향성이 나타났다"며 "이는 과거 IT산업에서 남성이 여성보다 많이 근무했기 때문인데, 이같은 과거 데이터가 활용돼 데이터 편향성이 나타난 것"이라고 설명했다.
인공지능으로 인한 소비자 차별 문제도 제기됐다. 양 변호사는 "인공지능 알고리즘이 개인간 가격, 상품, 서비스 추천 등 차별할 가능성이 크다"며 "소비자 간 불평등을 초래해 소비자 후생이 저하될 우려가 있다"고 밝혔다.
딥페이크를 활용한 허위정보로 인한 소비자 피해 가능성도 제기됐다. 그는 "딥페이크를 이용해 유명인을 내세운 허위 광고영상을 만들고 소비자에게 추천하면 피해가 커질 것"이라며 "가짜 뉴스로 인한 소비자의 진위 파악 능력 저하도 우려된다"고 덧붙였다.
정보의 비대칭을 통한 소비자 기만 문제도 제시했다. 양진영 변호사는 "AI 기술을 이용하여 온라인 상에서 가격정보를 수집·교환해 판매업체들의 암묵적 가격 담합 가능성이 커질 것"이라며 "추천 알고리즘에만 의존한 '알고리즘적 소비자' 문제도 불거질 것"이라고 주장했다.
소비자 문제 대응방안으로는 '투명성'을 최우선으로 꼽았다. 그는 "인공지능에 의한 의사결정은 투명하게 소비자에게 설명돼야 한다"며 "데이터 수집과 학습단계에서 공정성과 다양성을 확보하는 노력도 필요하다"고 말했다.
제도적 대응방안으로는 "AI 소비자 문제 관련 전문인력을 확보하고, 분쟁해결 기구를 설치해야한다"며 "AI 콘텐츠에 대해서는 '워터마킹'을 활용해 소비자들이 구분할 수 있게 해야한다"고 밝혔다.
현재 인공지능 관련 법안들은 국회 계류중이다. 지난해 12월 김승수 국민의힘 국회의원은 딥페이크 영상, 음향 등 인공지능(AI) 기술을 이용해 만든 거짓 정보에 대해 온라인 게재 시 워터마크(식별표시)를 의무화하는 내용의 '정보통신망 이용촉진 및 정보보호 등에 관한 법률' 일부 개정안을 대표발의했다.
개정안 주요 내용은 △정보통신망을 통해 공개되는 딥페이크 영상(음향·화상 포함)의 워터마크 표시를 의무화 △법을 준수하지 않을 경우 1000만원 이하의 과태료를 부과 △해당 영상을 삭제할 수 있도록 하는 조항 등이 담겼다.
AI 알고리즘, 소비자간 불평등 초래 가능성↑
인공지능 생성 콘텐츠 '워터마킹' 등 대안 마련해야
인공지능(AI) 발전에 따른 소비자 피해가 늘어나면서 법적·제도적 대응방안을 마련해야 한다고 소비자단체와 학계가 목소리를 높였다.
26일 오후 2시 국회 의원회관 7간담회실에서 'AI 시대 소비자정책 과제와 보호방안'이라는 주제로 포럼이 개최됐다.
이번 포럼은 사단법인 소비자권익포럼과 미래소비자행동, 변재일 더불어민주당 국회의원실이 공동주최했다. 포럼에서는 AI 기술 개발에 걸맞는 소비자 보호 방안에 대한 법적, 제도적 준비에 대한 주제발표가 이어졌다.
이날 지정토론엔 이성엽 고려대 기술경영전문대학원 교수, 김세겸 공정거래위원회 서기관, 고형석 한국소비자법학회장(한국해양대 교수) 등이 참여했다.
먼저 'AI 규제 국제동향'에 대해 정신동 한국외대 법학전문대학원 교수의 발표로 포럼의 막을 열었다. 정 교수는 "AI 기술 개발은 세계적으로 미국 기업들이 주도하고 있지만 AI 관련 입법활동은 유럽(EU)가 활발하다"며 "AI 인공지능법은 AI 자체에 대한 규제이며, 이달부터 시행된 EU 디지털서비스법은 구글과 같은 대규모 온라인 검색엔진에 대한 규제를 담고 있다"고 발표했다.
이어 "EU는 테슬라와 같은 인공지능이 탑재된 소비재나 프로그램 자체도 제조물로 여겨 과실 책임을 지우려 한다"며 "'제조물'에 디지털의 방식으로 생산된 파일과 소프트웨어, 즉 무형의 소프트웨어도 제조물에 포함돼 AI도 이에 해당된다"고 덧붙였다.
정 교수는 "하지만 이같은 EU 법안들을 한국 실정을 고려하지 않고 무비판적으로 수용하는 것은 지양해야 한다"며 "선제적 입법이나 벤치마킹 식의 입법은 신중한 접근이 필요하다"고 말했다.
이어서 'AI 관련산업에서의 소비자문제와 대응방안'이라는 주제로 양진영 법무법인 민후 파트너변호사가 주제발표를 진행했다.
양 변호사는 "인공지능 개발로 인해 맞춤형광고, 자동화로 소비자 편익이 증대된 측면이 있다"면서도 "하지만 안전성 문제, 개인정보 침해, 데이터편향으로 인한 차별 등 각종 소비자문제가 발생되고 있다"고 주장했다.
그는 데이터편향의 예시로 "과거 아마존에서 인공지능 채용시스템을 도입했더니 여성보다 남성을 선호하는 경향성이 나타났다"며 "이는 과거 IT산업에서 남성이 여성보다 많이 근무했기 때문인데, 이같은 과거 데이터가 활용돼 데이터 편향성이 나타난 것"이라고 설명했다.
인공지능으로 인한 소비자 차별 문제도 제기됐다. 양 변호사는 "인공지능 알고리즘이 개인간 가격, 상품, 서비스 추천 등 차별할 가능성이 크다"며 "소비자 간 불평등을 초래해 소비자 후생이 저하될 우려가 있다"고 밝혔다.
딥페이크를 활용한 허위정보로 인한 소비자 피해 가능성도 제기됐다. 그는 "딥페이크를 이용해 유명인을 내세운 허위 광고영상을 만들고 소비자에게 추천하면 피해가 커질 것"이라며 "가짜 뉴스로 인한 소비자의 진위 파악 능력 저하도 우려된다"고 덧붙였다.
정보의 비대칭을 통한 소비자 기만 문제도 제시했다. 양진영 변호사는 "AI 기술을 이용하여 온라인 상에서 가격정보를 수집·교환해 판매업체들의 암묵적 가격 담합 가능성이 커질 것"이라며 "추천 알고리즘에만 의존한 '알고리즘적 소비자' 문제도 불거질 것"이라고 주장했다.
소비자 문제 대응방안으로는 '투명성'을 최우선으로 꼽았다. 그는 "인공지능에 의한 의사결정은 투명하게 소비자에게 설명돼야 한다"며 "데이터 수집과 학습단계에서 공정성과 다양성을 확보하는 노력도 필요하다"고 말했다.
제도적 대응방안으로는 "AI 소비자 문제 관련 전문인력을 확보하고, 분쟁해결 기구를 설치해야한다"며 "AI 콘텐츠에 대해서는 '워터마킹'을 활용해 소비자들이 구분할 수 있게 해야한다"고 밝혔다.
현재 인공지능 관련 법안들은 국회 계류중이다. 지난해 12월 김승수 국민의힘 국회의원은 딥페이크 영상, 음향 등 인공지능(AI) 기술을 이용해 만든 거짓 정보에 대해 온라인 게재 시 워터마크(식별표시)를 의무화하는 내용의 '정보통신망 이용촉진 및 정보보호 등에 관한 법률' 일부 개정안을 대표발의했다.
개정안 주요 내용은 △정보통신망을 통해 공개되는 딥페이크 영상(음향·화상 포함)의 워터마크 표시를 의무화 △법을 준수하지 않을 경우 1000만원 이하의 과태료를 부과 △해당 영상을 삭제할 수 있도록 하는 조항 등이 담겼다.
KPI뉴스 / 유태영 기자 ty@kpinews.kr
[ⓒ KPI뉴스. 무단전재-재배포 금지]