소버린 AI는 환상인가…"늦어도 가야 할 길"
한상진 기자
shiraz@kpinews.kr | 2026-04-08 14:08:29
BCG "AI풀스택은 비현실"…"초강대국 외 감당 어려워"
국내 전문가들 "필수 전략"…"올해·내년이 골든타임"
소버린 AI(인공지능)는 환상인가.
세계 각국이 독자적인 인공지능(AI) 생태계 구축에 나서는 가운데, 이른바 '소버린 AI' 전략의 현실성을 두고 논란이 이어진다. 소버린(sovereign)AI란 외국 기술에 의존하지 않고 독자적으로 운영하는 AI 체계를 말한다.
글로벌 컨설팅기업 보스턴컨설팅그룹(BCG)은 최근 보고서에서 AI 풀스택 전략을 "환상에 가깝다"고 평가했다. AI 인프라부터 서비스까지 전 과정을 독자 기술로 구축하려면 막대한 자본과 연산 자원, 글로벌 공급망이 필요한데, 이는 미국과 중국 같은 초강대국 외에는 감당하기 어렵다는 주장이다.
실제 자원 격차는 크다. 인도 정부가 추진하는 '인디아AI' 프로그램이 확보한 GPU는 약 6만2000대 수준인 데 비해 마이크로소프트는 2024년 한 해에만 48만5000대를 구매했다. 단일 기업이 국가 단위 인프라를 압도하는 구조다.
소버린 AI, 환상인가 현실인가
하지만 국내 전문가들의 시각은 다르다. "늦더라도 가야 한다"는 쪽에 가깝다. 지난 6일 더불어민주당 이훈기 의원실 주최로 국회에서 열린 '소버린 AI와 AI반도체' 주제 토론회에서 참석자들은 소버린 AI 확보는 선택이 아닌 '생존 문제'라고 강조했다.
이날 토론회에는 서울대 전기정보공학부 이진호 교수, 네이버 클라우드 권세중 이사, 퓨리오사 AI 김동건 이사, 국회 입법조사처 정준화 입법조사관 등이 발언자로 참여했다.
네이버 클라우드 권세중 이사는 G2가 워낙 강할 뿐 한국도 G3라 생각한다고 주장했다. 이어 "우리가 잘 하는 HBM(고대역폭 메모리)이나 잘 하자는 식의 사고는 과거로 회귀하는 것"이라며 "이럴 경우 벤더로 전락할 가능성이 있다"고 우려했다.
권 이사는 "중국의 '모델-칩 생태계 혁신 연합'처럼 한국도 기술 성과 기반의 정책 인센티브 체계, 서비스 기업 주도 생태계 리더십, 정부의 벤치마크 체계 마련이 시급하다"고 말했다.
서울대 전기정보공학부 이진호 교수는 "AI 시대에서 추론 인프라는 석유·식량과 같은 핵심 자원"이라며 "해외 의존이 지속될 경우 서비스가 끊기는 순간 디지털 마비가 올 수 있다"고 경고했다.
이 교수는 "NPU(Neural Processing Unit, 신경망 처리장치)는 AI 소프트웨어 구현을 위해 특화 설계된 통합 칩"이라며 "AI 시대 곡괭이와 삽과 같은 것"이라고 그 필요성을 강조했다. NPU는 실시간 음성 인식 및 번역, 방대한 데이터 처리 등의 AI 작업을 기존 CPU와 GPU로는 감당할 수 없어 개발된 것이다.
이 교수는 추론 인프라의 세 가지 요소인 반도체,소프트웨어,연결기술을 언급하며 "추론 인프라 세 가지 요소를 엔비디아가 사실상 독점하고 있는 중"이라며 "생태계도 엔비디아 친화적으로 바뀌고 있다"고 했다.
이어 "추론 인프라의 국산화는 결코 포기할 수 없는 것"이라면서 "현재 한국의 경우 모두 해외에 의존하는 중인데, 석유·식량처럼 서비스가 끊기면 디지털 마비가 초래되는 것"이라고 말했다. 추론 인프라는 AI 모델이 학습된 내용을 바탕으로 질문에 답을 내놓는 등의 '추론' 작업을 지원하는 하드웨어·소프트웨어·데이터·운영 체계다.
이 교수는 "추론 인프라는 (한 걸음씩)개발하게 될 경우, 이미 생태계는 다음 스텝으로 이동해 있다"며 "한 걸음씩 따라가서는 늦는다"고 말했다. 아울러 "NPU·소프트웨어·연결기술 이 세 박자를 한 번에 따라잡아야 한다"고 강조했다.
"결국 승부는 정책과 생태계"
정책과 제도 역시 과제로 지적됐다.
법무법인 세종 AI센터 장준영 센터장은 "현재 논의 중인 AI 관련 법안은 기술 진흥 중심으로 설계돼 있다"며 "NPU 스택 생태계를 육성하는 구체적 지원 방안이 필요하다"고 밝혔다.
장 센터장은 "현재 논의 중인 AI 관련 법안은 주로 AI 기술, 산업 진흥, 융합 환산 등에 초점을 두고 있다"며 "NPU 스택 생태계를 육성, 지원하는 방안이 필요하다"고 지적했다. NPU 스택은 NPU를 단순히 칩이 아니라, 이를 제어·최적화하고 실제 서비스에 적용하기 위한 전체 생태계를 말한다.
그러면서 "우리나라는 과거 'IT강국'이라 불리던 기반이 여전히 유효하다"며 "K-NPU 생태계를 위해 기업(기술), 정부(법제도), 학교(인재)가 맞물려야 한다"고 했다.
국회 입법조사처 정준화 조사관은 "현행 법 체계에서는 NPU에 대한 직접적 지원 근거가 부족하다"며 "AI 정책과 반도체 정책이 부처별로 분산돼 있는 점도 문제"라고 지적했다.
현실적인 접근으로는 '투트랙 전략'이 제시됐다. 글로벌 기업의 GPU 인프라를 활용하면서 동시에 국산 NPU 생태계를 구축해야 한다는 것이다.
결국 논란의 핵심은 명확하다. '소버린 AI는 불가능한 환상인가, 아니면 반드시 가야 할 길인가'이다. 글로벌 시장은 이미 초격차 경쟁으로 흘러가고 있다. 완전한 자립이 어렵더라도, 일정 수준의 기술 주권을 확보하지 못할 경우 디지털 시대의 종속 구조에 놓일 수 있다는 우려도 커지고 있다.
"올해와 내년이 골든타임입니다."
토론회에서 나온 이 한마디는, 한국의 선택이 더 이상 늦출 수 없는 단계에 와 있음을 시사한다.
KPI뉴스 / 한상진 기자 shiraz@kpinews.kr
[ⓒ KPI뉴스. 무단전재-재배포 금지]