48시간 반도체 보안 검증…DGIST, 국제 해킹대회 준우승

[대구=이데일리 홍석천 기자] DGIST 연구팀이 반도체 설계의 보안 취약점을 찾아 공격 가능성을 검증하는 국제 경진대회에서 준우승했다. 자체 개발한 분석 도구와 인공지능(AI)을 결합해 제한된 시간 안에 방대한 설계 코드를 점검했다.

DGIST는 김영식 전기전자컴퓨터공학과 교수 연구팀이 ‘HACK@CHES 2026’에서 전체 참가팀 52개 중 최종 2위를 기록했다고 밝혔다. 김광식 박사후연구원과 이수성·김정도 학생이 ‘Edoras’팀으로 출전했다.

HACK@CHES는 암호 하드웨어·임베디드 시스템 분야 국제학술대회 CHES와 연계해 열린다. 올해는 온라인 예선을 통과한 8개 팀이 지난 11~13일 튀르키예 안탈리아에서 결선을 치렀다.

결선 과제는 오픈소스 보안 반도체 설계인 ‘오픈타이탄’을 기반으로 처음 공개된 코드의 보안 결함을 48시간 안에 찾아내고 실제 공격 가능성을 입증하는 것이었다.

왼쪽부터 김영식 교수, 김광식 박사후연수연구원, 이수성 석박통합과정생, 김정도 석사과정생. (사진=DGIST)

연구팀은 자체 개발한 자동화 도구 2종을 활용했다. ‘RTL Security Tripwire’는 암호키 등 민감정보가 제대로 삭제되지 않거나 보안 통제가 빠진 부분을 탐지한다. ‘RegSpecDiff’는 보안 설계 명세와 실제 구현 코드를 비교해 차이와 허점을 찾는다.

여기에 대규모 언어모델(LLM)을 활용해 코드 분석을 보조하고, 발견한 이상 징후를 시뮬레이션과 공격 실험으로 검증했다. 연구팀은 암호 연산과 메모리 제어, 난수 생성 등에 관한 취약점 분석·공격 검증 결과 총 20건을 제출했다.

반도체는 제조 이후 설계 결함을 수정하기 어려운 만큼 생산 전 보안 검증이 중요하다. 연구팀은 이번에 활용한 기술을 고도화해 차세대 보안 반도체의 설계 검증 효율을 높일 계획이다.

김 교수는 “설계 단계의 작은 보안 결함도 치명적인 위협으로 이어질 수 있다”며 “자동화 취약점 탐지와 AI 결합 검증 기술을 발전시켜 차세대 보안 반도체 설계 검증에 기여하겠다”고 말했다.

이번 성과는 과학기술정보통신부의 InnoCORE 사업과 범국가양자내성암호전환핵심기술개발 사업의 지원을 받았다.