노타, AWS 자체 AI칩 ‘최적화’ 지원…경량화 서비스 '주목'

[이데일리 윤정훈 기자]온디바이스 AI(개인형 인공지능) 및 모델 경량화 전문 기업 노타(486990)가 글로벌 1위 클라우드 기업 아마존웹서비스(AWS)의 자체 AI 반도체 생태계에 본격 합류한다. 삼성전자(005930), Arm, 퓨리오사AI 등 하드웨어 전 분야에서 글로벌 탑티어 기업들과 협력해 온 노타는 이번 AWS와의 협력을 통해 클라우드 인프라 영역으로 사업 영토를 전격 확장한다는 구상이다.

노타는 AWS의 공인 파트너 자격을 획득하고, AWS가 자체 설계한 AI 전용 칩 환경에서 기업 고객의 AI 모델 성능을 극대화할 수 있는 ‘넷츠프레소(NetsPresso®) 기반 모델 튜닝 서비스’를 출시했다고 7일 밝혔다.

최근 고성능 거대언어모델(LLM) 도입 가속화로 인해 기업들의 AI 인프라 비용 부담이 급증하는 가운데, 이번 서비스는 AWS의 고성능·저비용 AI 칩을 도입하려는 기업들에게 ‘비용 효율화’의 실질적인 돌파구가 될 것으로 기대된다.

(사진=노타)

엔비디아 대항마로 떠오른 ‘AWS 자체 칩’…노타, ‘원스톱’ 최적화 맡는다

이번 협력의 핵심은 AWS가 엔비디아 의존도를 낮추기 위해 직접 설계한 AI 학습 전용 칩 ‘트레이니움’과 추론 전용 칩 ‘인퍼런시아’의 도입 장벽을 대폭 낮추는 데 있다.

AWS의 자체 반도체는 글로벌 최고 수준의 가성비와 에너지 효율을 자랑하지만, AI 최적화 전문 인력이 부족한 기업 고객이 자사 모델을 이 환경에 맞게 포팅(이식)하고 튜닝하는 데는 기술적 어려움이 따랐다.

노타는 자사의 대표 플랫폼인 ‘넷츠프레소’를 활용해 기술검증(PoC) 및 진단부터 모델 포팅, 경량화, 하드웨어별 최적 배포에 이르는 전 과정을 원스톱으로 지원한다. 넷츠프레소는 AI 모델의 크기를 최대 90% 이상 축소하면서도 기존의 정확도를 유지할 수 있는 독보적인 경량화·배포 자동화 기술을 보유하고 있다.

실제로 노타는 이미 AWS 트레이니움 및 인퍼런시아 환경에서 320억 개 파라미터(매개변수) 규모의 고성능 언어 모델을 튜닝해, 모델 크기를 68% 줄이면서도 정확도 손실을 1% 미만으로 방어하는 압도적인 기술력을 입증한 바 있다.

AWS의 트레이니움 관련 사업은 앤스로픽, 애플, 데이터브릭스 등 빅테크 기업들의 도입이 늘면서 분기 대비 150% 성장하는 등 수십억 달러 규모로 성장 중이다. 노타의 이번 서비스는 이처럼 폭발하는 AWS AI 칩 수요를 빠르게 흡수할 수 있는 기폭제가 될 전망이다.

모바일에서 클라우드까지…‘AI 경량화’ 전천후 파트너로 도약

노타는 그동안 모바일(삼성전자), 반도체 IP 설계(Arm), 데이터센터용 AI 가속기(퓨리오사AI), 엣지 디바이스(모빌린트)에 이르기까지 AI 모델 최적화가 필수적인 하드웨어 생태계 전반에서 굵직한 글로벌 협력 레퍼런스를 쌓아왔다.

이번 AWS 파트너십 및 전용 튜닝 서비스 출시는 노타의 융합 기술력이 단말기(엣지) 단을 넘어 메가 스케일의 클라우드 인프라 영역까지 완벽히 커버하게 됐음을 의미한다.

채명수 노타 대표는 “AWS AI 칩은 뛰어난 가격 대비 성능을 제공하며, 노타는 이러한 AWS 칩의 성능을 고객이 자사 모델에서 온전히 활용할 수 있도록 모델 튜닝을 지원한다”며 “AWS AI 칩 기반 인프라 도입을 검토하는 기업 고객에게 실질적인 비용 효율화 성과를 제공하겠다”고 말했다.