SK텔레콤, 멀티 LLM으로 기업·공공용 '생성형 AI 시장' 공략
김윤경 IT전문기자
yoon@kpinews.kr | 2023-08-23 18:14:18
에이닷은 한국어 기반 구축형, 엔트로픽은 클라우드형 적용
정부부처·공기업·금융사·제조사 고객 발굴
SK텔레콤(대표 유영상)이 자사와 타사 LLM(초대형 언어 모델)을 결합한 '멀티 LLM'으로 기업·공공용 '생성형 AI 시장' 공략에 나선다.
SK텔레콤은 △통신사 서비스를 중심으로 자체 개발해온 에이닷 LLM과 △윤리적 답변 및 대용량 텍스트(Text) 강점을 보유한 엔트로픽(Anthropic)사의 LLM △한국어 데이터가 풍부한 코난 LLM 등을 조합, 생성형 AI 시장을 공략한다고 23일 밝혔다.
현재 국내 LLM 시장은 오픈AI를 필두로 다수 기업들이 자사 LLM 기반의 사업을 준비중이다. SK텔레콤은 자체 LLM과 협력사 LLM을 포괄하는 라인업으로 '멀티 LLM' 사업을 추진 중이다.
SK텔레콤은 한국어 기반 에이닷 LLM을 8월부터 엔터프라이즈(Enterprise)용 기본모델(Foundation Model)로 출시하고 고객사 대상 모델을 학습시키며 최적화 작업을 진행 중이다.
LLM 기본모델(Foundation Model)은 문서요약, 문서생성, Q&A등을 수행할 수 있는 기본 기능을 갖춘 AI 소프트웨어다. 기본 기능이 제대로 발휘 되려면 이 모델을 필요로 하는 고객사의 실제 데이터를 넣어서 학습시키고 고객이 원하는 방향으로 조율(Tuning)하는 과정을 거쳐야 한다.
SK텔레콤은 코난의 LLM도 활용한다. 지난 13일 지분 투자를 발표한 엔트로픽(Anthropic)사 LLM을 주요 B2B 서비스에 결합하는 방안도 협의중이라는 설명. 기능 통합이 완료되는 4분기부터는 실제 서비스 제공도 가능할 것으로 기대하고 있다.
SKT텔레콤은 슈퍼컴 등 대규모 GPU 시스템과 전국 단위의 IT 인프라 운용 경험, 대규모 AI 개발자 기반(Pool)을 토대로 하드웨어와 소프트웨어까지 모두를 제공하는 '풀 스택(Full Stack) 서비스(Approach)'가 가능할 것으로 보고 있다.
SK텔레콤이 설립한 AI반도체 기업인 '사피온'의 신제품 X330의 기술도 '풀 스택'의 일환이다.
SK텔레콤은 최근 3대주주로 올라선 페르소나AI와 콘택트센터(AI Contact Center) 분야 LLM 구축 협력도 추진하며 LLM 생태계를 확대해 나갈 계획이다.
SK텔레콤이 제공하는 기업공공(Enterprise) 분야 LLM은 산업 분야별로 서비스를 매칭하는 '산업별 특화 LLM 서비스' 제공을 지향한다.
한국어 기반 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 초거대 AI 중심 클라우드형 LLM은 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.
우선 행안부, 과기부 등 정부에서 추진중인 LLM 기반 시범 사업과 본 사업 참여를 준비중이다. 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진중이다.
SK텔레콤 김경덕 CIC장(부사장)은 "중요한 것은 고객의 요구 사항(Needs)"이라며 "다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다"고 강조했다.
KPI뉴스 / 김윤경 기자 yoon@kpinews.kr
[ⓒ KPI뉴스. 무단전재-재배포 금지]