SK AI 서밋…활용사례·인프라·에너지가 병목, 협력이 해법
김윤경 IT전문기자
yoon@kpinews.kr | 2024-11-04 17:56:53
최태원, 병목 해결 먼저…"해법 준비 중"
젠슨황 "HBM…더 빨리,더 넓은 대역 필요"
그렉 브로크만 "기업 협력·생태계 구축해야"
SK, 'AI 슈퍼 하이웨이'·'HBM3E 16단' 공식화
AI(인공지능) 발전을 위해 기업들이 고민하는 분야는 AI를 활용한 사례(Use Case) 및 수익 모델 발굴, 인프라 구축, 에너지 효율화, 생태계 활성화였다. 문제 해결을 위한 최우선 과제로는 초기업적 협력이 요구됐다.
SK그룹이 4일 서울 코엑스에서 '함께하는 AI, 내일의 AI'를 주제로 개최한 'SK AI 서밋(SUMMIT) 2024'에서는 AI 시대 글로벌 기업들의 당면 과제와 난제, 이를 해결하기 위한 노력들이 소개됐다.
행사에는 최태원 SK그룹 회장을 비롯, 그렉 브로크만 오픈AI 회장 겸 사장, 젠슨 황 엔비디아 CEO, 웨이저자 TSMC 회장, 라니 보르카 마이크로소프트 CSV 등 글로벌 빅테크 경영자들이 대거 참여했다.
이들은 사람처럼 논리적 추론이 가능한 범용인공지능(AGI)을 AI의 미래로 제시하고 궁극적으로 AI가 인류 공통의 난제를 해결하고 지속가능한 지구를 만드는 데 기여할 것으로 예상했다.
AI 수익 모델 '아직'…에너지·인프라도 해결해야
문제는 곳곳에 존재한 병목이었다. 활용 사례 및 수익 모델 발굴은 AI 투자 회수를 위해 필수적으로 요구된다. AI가 논리적 추론을 하려면 데이터를 학습해야 하고 기업들에게는 천문학적 비용 지출이 요구되지만 이를 상쇄할 수익모델이 나오지 않아서다.
최태원 회장은 "AI 겨울을 극복할 수익모델이 아직 안 나왔다"며 "MS와 구글 등 글로벌 빅테크들도 많은 시도를 하고 있는데 SK는 기업용 AI 솔루션과 통신특화(텔코) LLM(거대언어모델) 개발을 진행 중"이라고 밝혔다.
AI 가속기와 반도체를 포함한 인프라는 시장의 수요와 공급이 불균형을 이루는 사례다. 방대한 데이터를 빠르게 처리하려면 고성능 AI 반도체와 가속기, 네트워크가 필요한데 수요에 비해 공급이 턱없이 부족해서 문제다.
젠슨 황 엔비디아 CEO는 데이비드 패터슨 UC버클리대 교수와의 행사 전 대담에서 "HBM(고대역폭 메모리) 반도체의 발전 속도가 더 빨라져야 하고 더 넓은 메모리 대역폭이 필요하다"고 강조했다.
주요 이유로는 "이미지와 동영상, 대규모 독립 데이터 등 처리해야 할 맥락(context) 데이터의 지속적 증가"를 꼽았다. 그는 "코딩으로 작성된 소프트웨어가 머신러닝 알고리즘으로 진화할 때 AI는 맥락 데이터 학습을 위한 뉴럴(신경망) 네트워크 구축과 병렬 계산을 요구하는데 그 과정에서 메모리 대역폭이 중요하다"고 설명했다.
웨이저자 TSMC 회장은 "AI 발전을 가속화하기 위해 반도체 소모 전력과 칩 면적 감소를 위한 기술 혁신이 필요하다"며 '하나의 칩에 연산처리 장치를 모두 담는 원칩 구현'을 위해 '반도체 산업 전체의 협력'을 촉구했다.
에너지(전력) 확보와 효율화도 해결과제로 지목됐다. 고성능 컴퓨팅 파워 구현을 위한 대용량 전력 지원 환경이 아직 마련되지 못했기 때문이다.
최 회장은 "AI가 학습할 LLM 1개당 약 10GWh(기가와트시) 수준의 전력과 이를 공급할 AI 데이터센터가 필요한데 투자비가 1GWh당 최소 400억 달러로 추산된다"고 설명했다. 이어 "50GWh 수준의 AI 데이터센터 건립이 당면과제, 넷제로(탄소저감) 달성이 추가 과제"라고 했다.
AI가 인류 난제 해결…기업 협력·생태계 절실
그렉 브로크만 오픈 AI 회장은 "인류의 문제를 해결하는데 AI가 기여할 수 있도록 하겠다"며 "사람을 능가하는 AI 개발에는 기업들의 협력과 생태계 구축이 필요하다"며 "함께 손잡고 일하면 가능할 것"이라고 강조했다.
그는 "사람처럼 생각하고 고민하며 좋은 답변을 내는 AI를 구현하고자 논리 관련 프로젝트를 진행 중"이라고 밝혔다.
라니 보카르 마이크로소프트 총괄부사장(CVP)은 "더 나은 미래로 이끌 기술을 도입해야 한다"며 "미래는 속도와 규모, 지속가능성의 한계를 시험할 경계이고 얼마나, 멀리, 빨리 나아가느냐는 우리에게 달려 있다"고 말했다.
이어 "아폴로M 성공 뒤 혁신가들이 '중대한 시작'을 논했던 것처럼 AI는 우리에게 새 시대의 시작을 알린다"고 설명하고 "어떻게 혁신하느냐가 새로운 기술을 여는 원동력이고 세계 최고의 슈퍼 컴퓨터를 구축해야 하는 임무가 우리에게 있다"고 했다.
'AI 슈퍼 하이웨이'와 'HBM3E 16단' 공식화
이날 행사에서는 난제 해결을 위해 SK가 준비한 결과물도 소개됐다.
유영상 SK텔레콤 대표는 'AI 인프라 슈퍼 하이웨이'를 제시하고 대규모 AI 데이터센터와 가상화 기술을 활용한 GPU 임대서비스(GPUaaS), 전국 단위 엣지 AI 건립을 해법으로 내놨다.
그는 "고효율 저비용 에너지 기술에 대한 실증 사업을 진행 중"이라며 "12월부터는 경기도 판교 지역에 시험 공간(테스트베드)도 오픈한다"고 했다.
곽노정 SK하이닉스 대표는 "디램(DRAM)은 데이터 저장을 위한 도로, 낸드플래시는 저장고 역할을 한다"고 요약하고 "성능 최적화, 공간효율 극대화, 전력 효율 최소화를 목표로 우리는 가장 먼저, 최고를 뛰어넘는 차세대 AI 메모리를 개발하고 있다"고 소개했다.
HBM3E 12단을 넘어 48GB(기가바이트) 용량을 구현하는 16단 제품 개발도 공식화했다.
곽 대표는 "내부 시험 결과 16단 HBM3E가 12단 제품보다 학습 18%, 추론능력은 32% 향상된 것으로 검증됐다"며 "내년 초 고객들에게 샘플을 제공할 예정"이라고 밝혔다.
KPI뉴스 / 김윤경 기자 yoon@kpinews.kr
[ⓒ KPI뉴스. 무단전재-재배포 금지]