SKT, 자사 AI 에이닷엑스 API 내년 공개 예정[ECF 23]

김지원 SK텔레콤 글로벌/AI Tech 사업부-대화담당이 21일 서울 여의도 FKI타워 컨퍼런스센터 그랜드볼룸에서 열린 ‘제10회 이데일리 IT 컨버전스 포럼’에서 ‘맞춤형 AI 시대 SKT A.X의 LLM 전략’ 주제로 발표를 하고 있다. ‘생성형 AI가 미래를 만든다’ 주제로 열린 ‘제10회 이데일리 IT 컨버전스 포럼’은 하루가 다르게 발전하는 생성형 AI가 가져올 미래의 모습을 공유하기 위해 마련됐다. (사진=이영훈 기자)

[이데일리 한광범 기자] SK텔레콤이 자체 LLM(거대언어모델)의 응용프로그램인터페이스(API)를 내년에 공개한다.

김지원 SKT 글로벌/AI 테크 사업부 대화담당은 21일 서울 여의도 FKI타워 컨퍼런스센터에서 열린 제10회 이데일리 IT 컨버전스 포럼에서 “자체 AI 에이닷엑스(A.X)를 내년부터 밖에서 활용하기 위한 LLMOps(대형언어모델운영) 에이닷엑스 툴-체인(A.X Tool-Chain)을 내놓을 예정”이라고 밝혔다.

김 담당은 “고객이 소량의 고유한 데이터를 갖고 있을 경우 SKT LLM과 고객 데이터를 결합해 파인튜닝할 수 있게 하고 있다”며 “통화요약 LLM, 고객상담 LLM 등 튜닝을 통해서 다양한 특화 LLM을 만들 수 있다”고 설명했다.

그는 “라스트마일 튜닝은 AI에서 매우 중요하다. 고객이나 서비스를 하는 입장에서 튜닝은 꼭 필요한 요소”라며 “에이닷엑스 LLM으로 파인튜닝할 수 있는 형태로 만들고 있는 에이닷엑스 툴-체인을 내년에 공개하는 것을 목표로 하고 있고, 이렇게 만든 LLM을 API로 형태로 제공할 것”이라고 말했다.

김 담당은 SKT의 LLM 전략에 대해 “맞춤형으로 버티컬 LLM을 만들고 있다. 기존엔 범용으로 한국어 데이터, 대화 데이터를 많이 모았지만 고객 응대 데이터베이스(DB), 통신 이용 DB 등을 계속 더해서 프리트레인 더해가며 성능이 좋아졌다”며 “네트워크 인프라, 전화 문자 관련 AI가 잘하기 위해선 관련 데이터를 모아서 프리트레인 하는 방식으로 고도화하고 있다”고 전했다.

그는 “임팩트가 있으려면 텍스트, 이미지, 스피치가 한 모델로 갈 수 있는 모델로 가야 한다. 텍스트, 코드, 음성, 영상 등이 한 파운데이션 모델로 프리트레인 하고, 이게 다양한 곳에 쓰이면 조금 더 휴먼 인터랙션이 더 좋아질 것”이라며 “사람도 텍스트로만 교류하는 게 아닌 만큼, AI가 더 나은 세상 만드는 데 역할을 할 것”이라고 밝혔다.