모델 선정 과정에서 개발사 국적이나 제재 여부를 별도 기준으로 삼지 않은 데다, 사내 AI 이용 건수도 서비스 개시 이후 감소해 모델 선정과 인프라 투자 기준을 점검할 필요가 있다는 지적이 나온다. 정부는 공공 부문에서 국내 독자 AI 모델 적용을 확대해 해외 모델을 대체하는 방안을 추진하고 있다.
|
미국 상무부는 2025년 3월 25일 중국의 군 현대화 지원 등을 이유로 BAAI를 수출통제 명단(Entity List)에 올렸다. 한국투자공사는 같은 해 12월 15일 BGE-M3를 사내 AI에 탑재했다.
사내 AI에 적용된 나머지 모델은 미국 메타의 ‘라마3(Llama3)’와 구글의 ‘제미나이3(Gemma3)’다. 각각 유해 콘텐츠 차단과 이미지 처리를 담당한다. 문서 요약·번역과 초안 작성, 사내 규정 검색, 주간보고서 작성, 국회의원 질의 자료 검색 등에 쓰이는 언어모델은 큐웬3다.
모델 선정은 공사와 시스템 구축 사업자의 합의로 이뤄졌다. 한국투자공사는 이용자 평가를 바탕으로 한 AI 모델 순위인 LMArena와 다양한 전문 분야의 지식을 평가하는 MMLU-Pro 등 벤치마크, 정확성·이해력·추론 능력·업무 적합성 등을 평가했다고 밝혔다. GPU 4장으로 운용해야 하는 제한적인 하드웨어 환경도 주요 고려 사항이었다.
평가 결과 큐웬3는 비용 대비 성능과 GPU 메모리 활용, 다국어 처리 측면에서 우위를 보인 것으로 나타났다. 다만 제출 자료상 모델 선정 기준에는 개발사 국적이나 미국의 수출통제 명단 등재 여부가 포함되지 않았다. 검색모델 BGE-M3의 대안으로 검토한 모델도 알리바바의 큐웬이었다.
정부는 공공 부문의 해외 AI 모델 활용 현실을 인정하면서 국내 독자 모델로의 전환을 추진하고 있다. 배경훈 부총리 겸 과학기술정보통신부 장관은 얼마전 과기정통부 국정감사장에서 “실제로 현재 많은 산업계와 공공에서 중국 AI 모델을 사용하고 있는 것이 현실”이라고 밝혔다.
배 부총리는 기존 플랫폼에 적용된 국내 AI 모델은 독자 AI 파운데이션 모델 사업의 1차 결과물이었다고 설명했다. 최근 2차 평가에서 공개된 국내 독자 모델 4종의 성능이 충분히 검증된 만큼 이를 활용해 중국산을 비롯한 해외 모델을 교체하는 작업을 진행하겠다는 방침이다. 그는 “공공 부문에 2차 평가 모델을 본격적으로 적용하고, 향후 3차 결과물이 나오면 국내 독자 AI 모델의 활용을 더욱 확대하겠다”고 덧붙였다.
한편 한국투자공사의 사내 AI 이용 실적은 서비스 개시 이후 감소세를 보였다. 이용 건수는 지난 5월 3755건에서 9월 798건으로 78.7% 줄었다. 같은 기간 이용자 수도 339명에서 147명으로 감소했다. 반면 9월 오픈AI의 챗GPT 이용 건수는 3만6881건으로, 사내 AI의 약 46배였다.
다만 공사는 사내 AI가 9개 업무를 지원하는 방식으로 활용 범위가 제한돼 있다고 설명했다. 챗GPT와 사내 AI는 기능과 이용 환경이 다른 만큼 이용 건수만으로 두 서비스의 효용을 직접 비교하기는 어렵다.
이용 실적이 감소하는 가운데 GPU 증설 사업도 진행되고 있다. 한국투자공사는 사내 AI 서비스를 개시한 지난 5월 7일 9억5040만원 규모의 ‘인공지능 인프라 증설’ 계약을 체결했다. 기존 엔비디아 H200 GPU 4장에 8장을 추가해 총 12장으로 늘리는 사업이다. 계약 기간은 오는 11월 6일까지다.
공사는 증설 사유로 2026년 8월 발주한 내부 AI 플랫폼 고도화 사업에 필요한 인프라 확보와 GPU·메모리 가격 상승, 장비 배송 기간 등을 들었다. 앞서 지난 3월 16일 작성한 증설 제안요청서에는 ‘업무 수요 증가’가 배경으로 제시됐다. 관련 예산은 9억5000만원으로 편성됐으며, 공사는 오는 11월 사업 완료 후 집행할 예정이라고 밝혔다.
|
이어 “이용 건수가 크게 줄었는데도 장비를 증설하는 것은 보안과 예산 관리 측면에서 점검이 필요하다”며 “한국투자공사는 증설 장비가 실제 수요에 맞게 활용되는지 확인하고, 주무부처인 재정경제부도 공공기관의 AI 모델 도입 실태를 점검해 국적과 보안 관련 기준을 마련해야 한다”고 말했다.





![[속보]송파 장모 살인범 신상공개…26세 김성우](https://image.edaily.co.kr/images/vision/files/NP/S/2026/10/PS26101901232t.jpg)
