낮은 연산 복잡도 갖는 채널 복호 기법, 학술적으로 중요한 성과
AI 통신 복호, 더 빠르고 효율적으로…연산량·메모리 사용량 대폭 절감

국내 연구진이 데이터 통신 과정에서 발생하는 오류를 적은 연산 자원으로 정확하게 복원할 수 있는 AI 기반 채널 복호 기술을 개발했다.

 

▲ 포스텍 전자전기공학과·융합대학원 김용준 교수(왼쪽부터), 서울대 노종선 명예교수, 성균관대 김상효 교수, 울산대 곽희열 교수. [포스텍 제공]

 

포스텍은 전자전기공학과·융합대학원 김용준 교수 연구팀(박성준 박사, 박태우 연구원)이 서울대 노종선 명예교수, 성균관대 김상효 교수, 울산대 곽희열 교수와의 공동 연구를 통해 기존 AI 기반 통신 복호기의 높은 연산량과 메모리 요구라는 한계를 극복한 새로운 기술을 개발했다고 6일 밝혔다.

 

카카오톡 메시지, 유튜브 영상 한 편 등 사람들이 주고받는 데이터는 사실 보이지 않는 '잡음'을 헤치고 상대방에게 도달한다. 과정에서 데이터는 언제든 손상될 수 있는데 포스텍 연구팀이 이 오류를 훨씬 적은 자원으로 정확하게 고칠 수 있는 AI 기술을 개발하는데 성공했다.

 

디지털 통신에서는 데이터가 이동하는 과정에서 오류가 생기기 마련이다. 이를 바로잡는 기술을 '채널 복호기'라고 한다. 최근에는 ChatGPT나 제미나이에 사용되는 트랜스포머 AI 모델을 이용해서 채널 복호기의 성능을 향상시키는 연구가 활발히 이뤄지고 있다.

 

문제는 속도와 비용이다. 트랜스포머 모델 핵심 계산 과정인 '어텐션'은 처리할 데이터가 길어질수록 요구되는 계산량이 빠르게 증가한다.

 

연구팀은 이 문제에 대한 새로운 해법을 제시했다. 복잡한 행렬 계산 대신 훨씬 가벼운 '벡터 연산'으로 어텐션 구조를 설계해 계산량이 데이터의 길이에 비례해 일정하게 늘어나도록 바꿨다.

 

그 결과 탄생한 'EfficientMPT'는 기존 AI 복호기 대비 메모리 사용량을 최대 91%, 연산량을 최대 57%까지 줄이면서도 오류 정정 성능은 그대로 유지했다.

 

▲ 제안하는 EfficientMPT 통신 복호기 구조. [포스텍 제공]

 

무엇보다 한 번 학습하면 다양한 종류와 길이의 데이터에 두루 적용할 수 있는 '파운데이션 모델'로도 작동해 기존에 없는 새로운 통신 규격이 등장해도 약간의 추가 학습만으로 빠르게 대응할 수 있다.

 

이번 기술은 6G 및 AI-RAN과 같은 차세대 통신 시스템은 물론, SSD 같은 데이터 저장 장치에도 활용될 것으로 기대된다.

 

연구팀이 개발한 EfficientMPT는 지난달 23일부터 27일까지 열린 AI 분야 국제 학술대회 'ICLR'에서 발표됐다. 연구팀은 앞서 ICLR 2025에서도 AI 기반 채널 복호기 중 최고 수준의 오류 정정 성능을 달성한 'CrossMPT'를 발표한 바 있다.

 

김용준 교수는 "부호 길이에 비례하는 낮은 연산 복잡도를 갖는 채널 복호 기법은 학술적으로 중요한 성과"라고 말했다.

 

 KPI뉴스 / 장영태 기자 3678jyt@kpinews.kr

 

[ⓒ KPI뉴스. 무단전재-재배포 금지]