글로벌 경영 컨설팅 기업 알바레즈앤마살(A&M)은 이 같은 내용을 담은 보고서 ‘네오스케일러의 부상: AI 인프라 구축을 위한 글로벌 경쟁’을 발간했다고 12일 밝혔다.
|
특히 AI 시장의 중심이 모델 개발과 학습에서 실제 서비스 활용으로 확대되면서 ‘추론’ 인프라 수요가 빠르게 늘고 있다. 현재 전체 AI 연산에서 추론이 차지하는 비중은 40% 이상이며 향후 신규 수요에서는 75% 이상으로 높아질 것으로 A&M은 전망했다.
업무 자동화와 소프트웨어 개발, 연구개발(R&D), 수요 예측, 이상 거래 탐지 등 기업과 정부가 AI를 실제 업무에 적용하는 사례가 확대될수록 지속적으로 연산 자원을 제공할 수 있는 인프라가 필요하기 때문이다.
반면 전력망 연결과 부지 확보, 인허가, 데이터센터 건설은 물론 냉각설비와 주요 부품 조달에는 상당한 시간이 필요하다. 수요 증가 속도를 공급이 따라가지 못하면서 AI 인프라 사업의 경쟁력이 GPU 보유량보다 필요한 인프라를 적기에 확보하는 능력으로 옮겨가고 있다는 게 A&M의 분석이다.
투자 기간의 불일치도 위험 요인이다. AI 가속기는 통상 18~24개월마다 새로운 세대가 출시되는 반면 데이터센터 부지와 전력·냉각설비는 장기간 사용된다. 최신 GPU의 가치가 빠르게 떨어질 수 있는 상황에서 기반시설에는 장기 투자가 필요한 만큼 실제 고객 수요와 계약 구조를 함께 살펴야 한다는 설명이다.
A&M은 이에 따라 AI 인프라 투자 시 장비 성능뿐 아니라 고객 신용도와 계약 기간, 해지 조건 등을 종합적으로 검토해야 한다고 강조했다. 장기 사용계약을 확보하지 못할 경우 GPU 가격 하락이나 가동률 변화에 따라 사업성이 빠르게 악화할 수 있어서다.
이 같은 시장 변화 속에서 기존 하이퍼스케일러를 보완하는 새로운 사업자로 ‘네오스케일러’도 부상하고 있다. 네오스케일러는 AI 모델이나 GPU 인프라에 특화해 대규모 학습·추론과 소버린 AI 수요 등에 대응하는 사업자다. 오픈AI와 같은 AI 개발사와 GPU 클라우드 업체 코어위브 등이 대표적인 사례로 꼽힌다.
A&M은 네오스케일러를 모델과 인프라 영역으로 구분했다. 모델 네오스케일러는 첨단 AI 모델 개발과 서비스에 집중하며 필요한 컴퓨팅 인프라를 주로 외부에서 확보한다. 인프라 네오스케일러는 GPU 클라우드와 서비스형 GPU(GPUaaS), AI 전용 데이터센터 등을 직접 구축·운영한다.
다만 사업자 간 경계는 흐려지고 있다. 하이퍼스케일러는 자체 AI 칩과 모델을 개발하고 AI 개발사는 데이터센터 사업자와 직접 계약해 전용 컴퓨팅 인프라를 확보하고 있다. 칩·클라우드·AI 모델·데이터센터 사업자가 서로의 영역으로 확장하면서 경쟁 구도 역시 생태계 간 경쟁으로 바뀌고 있다는 분석이다.
A&M은 네오스케일러가 하이퍼스케일러를 상호 보완하는 구조가 형성될 것으로 내다봤다. 하이퍼스케일러가 폭넓은 고객 기반과 범용 클라우드, 글로벌 운영 역량을 갖춘 반면 네오스케일러는 전용 GPU 클러스터와 소버린 AI, 특정 산업·기업 맞춤형 인프라에서 차별화할 수 있다는 설명이다.
김명구 A&M 파트너는 “한국에서도 제조·금융과 같은 산업별 데이터에 특화된 AI와 소버린 AI, 기업용 프라이빗 AI를 중심으로 투자 기회를 모색할 수 있다”며 “투자에 앞서 전력과 부지 등 인프라 여건뿐 아니라 실제 수요와 고객의 신용도, 계약 안정성을 종합적으로 검증하는 것이 핵심”이라고 말했다.
