유영상 SK텔레콤 사장은 4일 ‘SK AI 서밋 2024’에서 ‘AI 인프라 슈퍼 하이웨이’ 구축 계획을 발표하며 “SK텔레콤은 다양한 AI 기술을 모아 대한민국 고유의 인프라를 구축하는 소버린 AI를 구축하려 한다”면서 “이를 위해 총 1000억원을 내년에 투자하겠다”고 말했다.
그는 “AI 데이터센터, 그래픽처리장치(GPU)서비스(GPUaaS), 에지 AI(Edge AI)를 기반으로 구축될 ‘AI 인프라 슈퍼 하이웨이’를 통해 대한민국이 아시아태평양의 AI 데이터센터 허브로 도약할 수 있도록 하겠다”고 강조했다.
|
H100 메타는 15만개, 한국은 2천개→GPU 서비스로 해결
유 사장이 AI를 구동할 수 있는 최첨단 고속도로를 SK텔레콤이 직접 만들겠다고 언급한 것은 AI 인프라 분야에서 한국이 크게 뒤쳐져 있기 때문이다. 그는 “예를 들어, 메타는 라마(Llama) 학습을 위해 엔비디아 H100을 15만 개 보유하고 있지만, 대한민국은 H100이 2,000개에 불과하다는 통계가 있다”며, “GPUaaS를 통해 최신 GPU를 적시에 공급해 한국형 소버린 AI 인프라를 구축하고 국내 AI 생태계 발전을 돕겠다”고 말했다.
이를 위해 SK텔레콤은 수도권에 위치한 가산 데이터센터를 AI 데이터센터로 전환하고, 클라우드 형태로 GPU를 제공하는 GPUaaS(GPU as a Service)를 출시할 계획이다. 미국의 람다와 협력하여 오는 12월 H100 기반의 GPUaaS를 시작하고, 2025년 3월에는 국내 최초로 최신 GPU H200을 도입할 예정이다. 고객사의 수요에 맞춰 물량을 단계적으로 확대해 나갈 방침이다. 이날 행사에는 람다의 스티븐 발라반 최고경영자(CEO)도 참석했다.
유영상 사장은 “이를 통해 더 많은 기업들이 GPU를 직접 구매하지 않고도 낮은 비용으로 쉽게 AI 서비스를 개발할 수 있을 것”이라고 기대했다.
|
엄청난 컴퓨팅 파워가 필요한 생성형 AI의 도입으로 IT 업계는 과도한 전력비용과 에너지 효율 문제에 직면하고 있다.
유 사장은 이날 100MW 이상의 전력이 필요한 하이퍼 스케일 AI 데이터센터를 국내 지역 거점에 설계하고, 이를 1GW급으로 확장해 아시아태평양의 ‘AI DC 허브’로 도약할 계획을 밝혔다. 지역 거점에 AI DC(데이터센터)를 구축함으로써 수소, 태양광, 풍력 등의 신재생 에너지를 활용하고, 해저케이블을 통한 글로벌 확장도 가능하다고 설명했다.
이와 함께 SK하이닉스의 고효율 차세대 반도체와 액침냉각 등 에너지 솔루션을 결합하면 저렴한 비용으로 효율적인 AI DC를 구축할 수 있다고 덧붙였다. SKT는 12월 판교에 AI DC 테스트베드를 열어 엔비디아 최신 칩, 하이닉스 HBM, 차세대 액체 냉각 솔루션 등을 구현할 예정이다.
유 사장은 “수도권에는 짓기 어렵기 때문에 지역 인프라의 강점을 최대한 활용하고 있다”며, “AI 데이터센터의 미래를 경험할 수 있을 것”이라고 말했다. 그는 “1GW급 데이터센터가 175조원의 경제 효과를 불러오고, 지역 산업의 첨단 산업으로의 전환과 국가 안보에도 기여할 것”이라고 강조했다. SKT는 GW급 AI DC를 통해 50조원 이상의 신규 투자 유치, 55만명 이상의 고용 창출, 175조원 이상의 경제 효과를 기대하고 있다.
엣지 AI에서 6G까지
SK텔레콤은 전국 통신망을 활용한 ‘엣지 AI’를 지속적으로 추진하고 있다. 유 사장은 “데이터센터와 온디바이스 AI 사이의 간극을 메우고, 통신과 AI가 결합된 통합 인프라로의 전환을 엣지 AI를 통해 이루겠다”며, “이를 위해 통신국사에 맞춤형 서버와 AI RAN을 연구하고 있다”고 밝혔다.그는 현재 AI 학습의 시대를 지나, 6G에서는 AI 추론(서비스)의 시대가 될 것이라고 강조하며, 네트워크 진화의 패러다임 변화가 필요하다고 말했다. 네트워크에서 속도와 용량보다 AI 컴퓨팅 능력이 중요해질 것이라는 것이다.
마지막으로, 유 사장은 정부와 민간이 협력해 AI G3 도약의 새 역사를 써 나갈 것이라고 강조하며, “SK텔레콤은 대한민국의 AI G3 도약을 위해 AI 인프라 슈퍼하이웨이를 구축 중”이라며, “새로운 미래를 정부, 지자체, 기업이 함께 만들어 갈 수 있도록 힘을 모으자”고 제안했다.
한편 SKT의 소버린 AI 모델은 자주적인 인프라 구축이지만, 마이크로소프트(MS)와 제휴한 KT는 한국형 거대언어모델(LLM), 한국형 보안 클라우드(시큐어 퍼블릭 클라우드)여서 차이를 보이고 있다.
|
