韓 통신 산업과 서비스 이해하는 '텔코LLM'
이르면 6월 개발 완료…글로벌 진출 추진
SKT, 업무별 최적화 '멀티(다중) LLM' 제시
고객센터, 유통망, 네트워크 등 활용처도 다양

SK텔레콤이 5G 요금제와 T멤버십, 공시지원금 등 통신 서비스에 특화된 AI(인공지능) LLM(거대언어모델)을 선보인다. 이르면 오는 6월 개발을 완료하고 글로벌 시장 진출도 추진한다는 계획이다.
 

▲ 텔코LLM 개념도 [SK텔레콤 제공]

 

SK텔레콤(대표 유영상)은 통신 전문 용어와 AI 윤리가치 등 통신사 내부 지침을 학습한 '텔코LLM'을 개발하고 있다고 30일 밝혔다.

텔코LLM은 범용이 아닌 통신업 특화 LLM이다. SK텔레콤은 1개의 범용 LLM으로는 통신사의 요구에 맞추기 어렵다고 보고 AI콘택트센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 개별 업무에 최적화한 '멀티(다중) LLM'을 제시한다는 전략이다.

에릭 데이비스 SK텔레콤 AI Tech Collaboration(테크콜라보레이션) 담당은 "통신 데이터와 도메인 노하우로 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓰도록 할 방침"이라고 밝혔다.

▲ 에릭 데이비스 SKT AI Tech Collaboration담당이 30일 기자설명회에서 텔코 LLM에 대해 설명하고 있다. [SK텔레콤 제공]

 

SK텔레콤은 자사 LLM인 에이닷엑스(A.X)와 오픈AI의 GPT-4, 앤트로픽의 클로드에 방대한 양의 통신 관련 데이터를 학습시켜 다양한 텔코LLM을 개발 중이다. 이를 위해 통신 관련 데이터를 수집하고 이를 비정형·정형 데이터로 선별·정제하는 작업도 진행했다.

SK텔레콤은 텔코LLM이 만들어지면 통신사의 번호이동 방법이나 절차 등 전문지식은 물론 요금제 추천과 같은 고객 요구에도 제대로 대응할 수 있을 것으로 기대하고 있다.

대표적으로 고객센터의 업무가 획기적으로 개선될 것으로 본다. 지금까지는 상담과 업무처리에 3분 이상의 시간이 소요됐지만 텔코LLM을 도입하면 AI의 도움에 힘입어 시간이 크게 줄어들 것으로 보고 있다.

통신사의 네트워크 인프라 운용에도 텔코LLM이 유용하다. 운용자들은 네트워크 모니터링 중 문제가 발생하면 실시간으로 텔코LLM에 질문을 입력해 해결 방안을 찾아볼 수 있다.

SK텔레콤은 향후 인프라 운용 중 발생하는 데이터 분석과 정보 조회 등에도 텔코LLM을 확대 적용할 계획이다.
 

▲ 정민영 SKT AI플랫폼 담당이 30일 기자설명회에서 인텔리전스 플랫폼을 발표하고 있다. [SK텔레콤 제공]

 

SK텔레콤은 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축, 개발할 수 있도록 멀티 LLM부터 멀티모달, 오케스트레이션, 검색증강생성(RAG; Retrieval Augmented Generation) 등을 모두 아우르는 '인텔리전스 플랫폼'도 공개했다.

인텔리전스 플랫폼은 현재 A.(에이닷) 등의 서비스에 적용 중이다.

정민영 SK텔레콤 AI플랫폼 담당은 "고객센터, 인프라와 마케팅·유통망, 법무, HR(인재관리) 등 사내 업무까지 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것"이라고 설명했다.

 

KPI뉴스 / 김윤경 기자 yoon@kpinews.kr

[ⓒ KPI뉴스. 무단전재-재배포 금지]