'인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI기본법)'을 내년 시행 이전에 다시 손봐야 한다는 목소리가 커지고 있다.

 

▲ AI법안 관련 이미지. [게티이미지뱅크]

 

과학기술정보통신부는 AI 규율 측면에서 미국과 유럽연합(EU) 중간 정도로 한국 실정에 맞게 법을 만들었다고 한다. 맞는 말이다. 그러나 지난 4년 간 법안이 숙의를 거치지 않고 국회에서 공전한 탓에 기업에 사전 규제로 작용할 '고영향' AI의 범주와 기준이 명확하지 않다는 비판을 받고 있다. 또, 다른 부처가 이미 만들었거나 앞으로 만들 예정인 AI 관련 개별 법령과 함께 중복 규제로 작용할 우려도 있음을 법조계는 지적한다.

 

2020년 세계 최초로 발의했다가 여야 정쟁 속에 AI기본법이 표류하면서 조문을 정교하게 다듬지 못한 의원들 책임이 크다. 2026년 정식 발효하기 전에 지금이라도 보완해야 한다는 여론이 형성되는 배경이다.

 

AI 기본법은 사람의 생명·신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 수 있는 AI 시스템 중 에너지, 먹는 물, 보건의료, 원자력, 범죄수사 및 체포 생체인식, 채용·대출 등 11개 영역을 '고영향 AI'로 들었다.

 

우선, 무슨 근거로 이를 선정했는지 궁금하다. 먹는 '물'은 고영향이고 먹는 '음식'은 고영향이 아니란 말인가. 미래에 출현할 새로운 위험은 어떻게 대비할 작정인가. 현 시점에서 거론되는 위험만 나열한 것으로 보인다. 고영향 AI 사업자가 부담해야 할 의무도 작은 스타트업에게 큰 진입 규제로 작용할 수 있다. 사업자는 고영향인지 사전에 검토하고, 잘 판단이 안 되면 과기부에 확인을 요청할 수 있다고 규정돼 있다. 개발할 때마다 물어봐야 한다는 이야기다.

 

고영향으로 분류되면 안전성·신뢰성 검·인증과 결과물에 대한 설명 등 의무를 이행해야 한다. 여기까지가 과기부 규제이고, 다른 부처의 개별 규제는 별도다. 예컨대, 의료기기의 경우 보건복지부 식품의약품안전처의 요구를 충족하면서 동시에 고영향으로 판정되면 과기부 지침도 지켜야한다. 자칫 이중, 삼중의 족쇄가 될 가능성이 있다는 지적이다.

 

AI 기본법은 고영향 AI와 더불어 생성형 AI에 대해서도 표시 의무 등 일정한 규제를 가하고 있다. 이용자에게 사전 고지하고, 생성물이 AI로 만들어진 것임을 알려야 하도록 했다. 그런데, 전광석화 같은 AI의 발전 속도를 감안할 때 이미 대세로 부상한 AI 에이전트 등 새로운 형태의 AI를 어떻게 규율할지 막막하다. 과기부는 현재 시행령 제정을 서두르고 있으나 기본법 자체에 내재된 상기의 공백을 먼저 보완한 다음, 하부 법령 다듬기에 착수하는 것이 수순일 것이다.

 

AI 거버넌스의 측면에서 과기부가 다른 부처보다 전문성이 높은 AI의 기술적 위험을 선도적으로 관리하는 일은 무난하다. 하지만 금융, 의료 등 각 영역에서 업무 전문성을 보유한 개별 부처의 관리가 특별법에 해당하고 AI 기본법은 일반법의 포괄적 지위만 누리는 게 마땅하다.

 

부디 법체계상의 혼선을 정리하고 향후 후속 입법 과정에서 각계의 지적을 반영한 교통정리가 이뤄지길 희망한다.

 

AI처럼 전 세계 경제뿐 아니라 정치·사회·문화의 틀을 획기적으로 바꿀 파괴적 기반 기술은 처음부터 강력하게 규제하기보다 가이드라인식 연성(軟性)법으로 기업의 창의성을 보장하는 입법 태도를 취하는 게 보통이다. 급변하는 기술의 속도에 맞춰 제도가 따라가면서도 글로벌 경쟁 첨병인 기업의 혁신을 규제가 가로막지 않도록 하려는 뜻이다.

 

AI기본법은 고영향·생성형 AI에 대한 규제 기준을 제시하면서 △ 대통령 소속 국가인공지능위원회 △ 인공지능 기본계획 △ 인공지능정책센터 및 인공지능안전연구소 △ AI기술 표준 제정 △ AI 사업자의 안전성·신뢰성 확보 조치 △ 사실조사 및 시정명령 등의 내용을 담고 있다. 우리보다 한발 앞서 2024년 6월 EU가 통과시킨 세계 최초의 인공지능법(AI Act)과 비교할 때 유연한 적응력을 갖추고 있는 것으로 평가된다. 국가AI위원회에서 3년마다 AI기본계획을 수립해 변화하는 기술과 정책 동향을 반영시킬 수 있기 때문이다.

 

미국은 아직 한국과 EU 같은 포괄적 연방 규제법은 없지만 개별법과 행정명령을 만들고, 주(州)별로 주법도 제정해 아래로부터 서서히 제도화하는 실용적 행보를 보인다. 세계적인 AI 기업을 여럿 거느린 미국의 시장친화주의 정책과 자국 빅테크가 별로 없는 EU의 수세적 자세가 대조적이다. 하지만 프랑스 등 유럽 일각에서는 최근 EU AI법을 "미친 규제"라고 비판하면서 좀 더 기업 경쟁력 강화에 초점을 맞추자는 움직임이 일고 있다.

 

우리나라 AI 기본법이 세계적인 AI의 제도화 물결에 늦지 않게 합류할 수 있게 되었음은 다행한 일이다. 하지만 제도화의 첫 단추가 보다 매끈한 방향으로 전체 옷매무새를 가다듬을 수 있도록 1년간 깊이 고민하는 숙성의 기간을 갖기를 희망한다.

 

▲ 노성열 논설위원

 

 

 

[ⓒ KPI뉴스. 무단전재-재배포 금지]