"2주 안에 금융용어 이해하는 AI 채팅봇 만들어드려요"

[이데일리 김현아 기자]

올거나이즈 알리 플랫폼 내 LLM 세팅 화면

복잡한 금융약관에 대한 질의응답 구현 화면

초거대AI 올인원 솔루션 기업인 올거나이즈(대표 이창수)가 금융 분야에 특화된 AI 언어 모델 ‘알리 파이낸스 LLM(Alli Finance LLM)’을 19일 공개했다.

알리 파이낸스 LLM은 메타의 라마2를 기반으로 한 경량화된 금융 특화 sLLM(소형 언어 모델)이다.

인간 두뇌의 시냅스에 해당하는 파라미터 규모가 상대적으로 작지만 특정 용도의 AI 서비스를 개발하는 데 필요한 데이터, 시간, 비용 등이 적게 들어서 매우 적합하다.

이 모델은 파라미터 개수가 130억 개인 13B 모델과 700억 개인 70B 모델 두 가지로 제공되며, 프로젝트의 요구사항과 난이도에 따라 모델 크기를 선택할 수 있다.

특히 금융 도메인에 특화된 데이터로 학습되어 금융 용어를 이해한다. 예를 들어 “LTV”를 물으면 “Lifetime Value”의 약어로 설명하고, “Loan to Value(담보 인정 비율)”의 약어로 대답한다.

알리 파이낸스 LLM은 올거나이즈의 올인원 LLM 플랫폼 ‘알리(Alli)’에서 인지 검색 및 요약 기능을 바로 사용할 수 있다.

금융 용어 이해 모델이 검색 강화 생성(RAG, Retrieval Augmented Generation) 기술과 결합하여 답변의 적합성을 높일 수 있다. 원하는 문서를 업로드한 후 특정 부분을 검색하거나 요약하려면 간단한 명령어를 입력하면 된다. 또한, 복잡한 표에서도 내용을 찾을 수 있다.

이 모델을 사용하면 기업 전용 sLLM을 최대 2주 내에 구축하고 비용 최적화를 할 수 있으며, 회사 데이터의 보안 우려 없이 온프레미스(설치형)LLM 앱 마켓을 구축하는것도 지원한다.

이를 통해 금융 업무 자동화에 특화된 LLM 앱을 고객사의 네트워크 환경에서 사용할 수 있다. 또한, 금융 전문 용어부터 기업 내부 용어와 약어를 반영한 업무 생산성 앱을 쉽게 개발하고 사용할 수 있으며, 100개 이상의 업무 자동화 앱도 미리 등록되어 제공된다.

올거나이즈는 2017년부터 한국, 미국, 일본에서 사업을 진행하며 누적 200개 이상의 엔터프라이즈 기업 고객에게 AI 솔루션을 제공하고 있으며, 현대카드, KB증권, 미쓰이스미토모은행(SMBC) 금융그룹, KDDI, KAO, 미국의 트래블러스 등에서 사용 중이다.

이창수 올거나이즈 대표는 “알리 파이낸스 LLM은 금융 분야에 특화된 LLM과 앱 마켓을 동시에 제공해 도입 즉시 실무 적용이 가능하다”며, “앞으로는 보험, 제조업 등 다양한 분야로 확장할 것”이라고 설명했다.