AI 업무 비서 실수하면 처음부터 다시? 틀린 곳만 고친다

[이데일리 강민구 기자] 한국과학기술원(KAIST) 연구진이 검색 명령에서 틀린 부분만 찾아 바로잡는 기술을 개발하고, 인공지능(AI) 업무 자동화를 앞당길 가능성을 제시했다.

KAIST는 김민수 전산학부 교수 연구팀이 사람의 일상적인 질문을 데이터베이스에서 원하는 정보를 찾는 컴퓨터 명령어인 SQL(Structured Query Language)로 바꾸는 과정에서 발생하는 오류를 찾아 수정하는 기술 ‘세이프큐엘(SafeQL)’을 개발했다고 4일 밝혔다.

KAIST 연구진. 김민수 교수(오른쪽)와 이건호 박사과정 학생(왼쪽).(사진=KAIST)

최근에는 “재고가 부족한 상품은?”처럼 말로 질문하면 AI가 이를 SQL로 바꿔 회사의 매출·고객·재고 자료를 찾아주는 ‘Text-to-SQL’ 기술이 활용되고 있다. 복잡한 컴퓨터 명령어를 몰라도 말이나 글로 질문해 필요한 데이터를 찾을 수 있게 해준다.

문제는 AI가 검색 명령을 만들면서 데이터베이스에 실제로 없는 테이블이나 항목의 이름을 잘못 사용하거나, 자료를 잘못 연결하는 등의 실수를 할 수 있다는 점이다.

기존에는 작은 오류 하나에도 오류 내용을 챗GPT와 같은 생성형 AI의 기반인 대형언어모델(LLM)에 다시 보내 검색 명령 전체를 새로 만들게 했다. 보고서에서 단어 하나가 틀렸다는 이유로 문서 전체를 다시 쓰는 것과 비슷하다. 이미 맞았던 부분까지 달라지거나 새로운 오류가 생길 수 있고, AI를 반복해서 사용하는 만큼 비용과 시간도 늘어난다.

연구진이 개발한 SafeQL 기술은 이 방식을 바꿨다. AI에게 검색 명령 전체를 다시 만들게 하는 대신, 데이터베이스가 알려주는 오류와 실제 저장된 정보를 이용해 어디가 잘못됐는지 찾아 해당 부분만 고친다. 존재하지 않는 테이블이나 항목을 사용했는지 확인하고, 빠진 자료의 연결이나 잘못 사용한 함수·검색값 등도 찾아 수정한다.

연구팀은 이를 위해 데이터베이스에서 실제로 실행할 수 있는 여러 수정안 가운데 원래 AI가 만든 명령과 가장 가까운 답부터 찾아가는 ‘안전 질의 공간(Safe Query Space)’ 방식을 설계했다. 가능한 수정안을 모두 확인하는 대신 제대로 작동할 가능성이 높은 답부터 골라 확인하는 방식 이다.

SafeQL을 세계적으로 널리 쓰는 공개형 데이터베이스 관리 프로그램인 ‘PostgreSQL’ 내부에도 구현해 복잡한 명령에서도 오류가 발생한 위치를 정확하게 찾도록 했다. 틀린 부분만 고쳐서는 해결하기 어려운 경우에만 LLM을 다시 사용하도록 해 불필요한 AI 사용도 줄였다.

연구팀은 BIRD와 Spider 벤치마크를 통해 SafeQL의 성능도 검증했다.

그 결과, BIRD 벤치마크 평가에서 SafeQL은 AI가 처음 만든 SQL의 실행 오류를 최대 87.4% 해결했다. 원하는 답을 정확하게 찾아내는 실행 정확도도 기존 최고 기술보다 최대 5.8%포인트 높였다.

연구진은 향후 AI 운영에 필요한 비용과 시간을 줄이고, 기업 데이터를 보다 정확하고 안정적으로 활용하는 ‘AI 에이전트’ 기반 업무 자동화를 앞당길 수 있을 것으로 기대했다.

김민수 교수는 “기업에서 AI가 실제 업무를 맡으려면 필요한 데이터를 정확하게 찾는 것이 중요하다”며 “SafeQL은 AI가 검색 과정에서 실수하더라도 처음부터 다시 하는 대신 틀린 부분만 바로잡아 오류와 비용, 시간을 함께 줄이는 기술로, 신뢰할 수 있는 AI 업무 자동화를 앞당길 것으로 기대한다”고 말했다.

연구 결과는 지난 1일부터 오는 5일까지 미국 보스턴에서 열리는 데이터베이스 분야 국제학술대회 ‘VLDB(International Conference on Very Large Data Bases)’에서 발표될 예정이다.