“저전력 LPDDR(저전력더블데이터레이트) 메모리로 PIM을 사용하면 온디바이스 인공지능(AI)을 넘어 데이터센터까지 두 마리 토끼를 잡을 수 있습니다.”(임의철 SK하이닉스 펠로우 부사장)
|
손 마스터는 “메모리에서 데이터를 못 가져오면 프로세스를 아무리 잘 만들어도 소용이 없다”며 차세대 메모리 솔루션으로 PIM을 강조했다. PIM은 메모리 반도체에 연산 기능을 더한 지능형 메모리다.
생성형 AI를 가동하는 LLM(거대언어모델)이 메모리 성능에서 좌우되는 만큼 메모리 업계에선 고성능과 저전력을 한 번에 해결하기 위한 기술 개발에 대한 고민이 크다. LLM을 이루는 중요한 요소인 GEMV(행렬과 벡터를 곱하는 함수) 기능을 D램에서 수행해야 하는데, 기존 메모리로는 보틀넥(장애물)이 생길 수밖에 없다.
삼성과 SK는 자사의 PIM 솔루션에서 △LPDDR을 활용한 LP-PIM △기존 시스템 설계 변경 없이 손쉬운 사용 등 두 가지를 공통적으로 강조했다.
LP-PIM은 기존 LPDDR에 비해 에너지 효율 측면에서도 월등하다. 인텔, AMD 등으로 한정된 DDR 시장과 달리 LPDDR은 모바일 애플리케이션프로세서(AP)를 만드는 회사가 많아 개발 속도도 빠르다. 손 마스터는 “DDR은 서버에 대한 솔루션이어서 바뀌는 속도가 모바일만큼 빠를 수 없다”고 말했다.
|
SK하이닉스도 별다른 수정 없이 새로운 아키텍처를 적용할 수 있도록 데이터센터향 AiMX을 설계해 고객사의 부담을 줄였다. 임 부사장은 “온디바이스는 기존에 있던 모바일 AP를 바꿔야 하는 문제가 있다”며 “그만큼 온디바이스에서 할 수 있는 솔루션이 몇 개 없다는 걸 알고 있기에 고객사와 보틀넥을 헤쳐나가기 위해 논의를 진행하고 있다”고 했다.
