김헌성 가톨릭대 서울성모병원 교수는 3일 한국디지털헬스산업협회가 주최한 전문가 세미나에서 AI 시대 의료의 과제로 AI 판단을 검증하는 능력, 사이버 공격에 대한 방어, 디지털 헬스의 지속적인 활용을 꼽았다. 김 교수는 2027년께 범용인공지능(AGI) 시대가 도래할 가능성을 언급하며, AI가 의료진의 판단을 보조하는 수준을 넘어 스스로 진단하고 새로운 작업을 수행하게 되면 의사의 역할도 달라질 것이라고 전망했다.
|
그러나 김 교수는 AI가 고도화될수록 새로운 위험도 커질 수 있다고 지적했다. 특히 환각과 설명 불가능성, AI가 사람을 설득하기 위해 사실과 다른 설명을 내놓는 이른바 ‘선의의 거짓말’을 경계해야 한다고 강조했다.
AI의 진단이 의료진의 판단과 다를 때 AI가 그 근거를 의료진이 이해할 수 있는 방식으로 설명하지 못하면 문제가 생긴다. 더 나아가 AI가 자신의 결론을 관철하기 위해 사람이 납득하기 쉬운 설명을 만들어낼 수도 있다. 의료진이 이를 사실로 받아들이면 AI의 판단을 검증하기보다 그대로 따르게 될 수 있다는 것이다.
의료 영상에서도 AI의 취약성이 드러난다. 김 교수는 하버드 연구 사례를 소개하며 망막 사진에 작은 점 하나가 추가되는 것만으로 AI의 판독 결과가 크게 달라지는 사례를 설명했다. 이미지의 미세한 변화에 따라 정상과 비정상을 판별할 확률이 0.2%에서 99% 수준으로 뒤바뀔 수 있다는 것이다.
이는 ‘적대적 공격(Adversarial Attack)’의 위험성을 보여준다. 사람이 쉽게 알아차리지 못하는 작은 변화를 의료 영상에 가해 AI의 판단을 의도적으로 바꾸는 공격이다. 금융권뿐 아니라 의료 분야에서도 AI 진단 시스템을 겨냥한 공격 가능성을 고려해야 한다는 지적이다.
김 교수는 의료 AI가 공격에 취약한 배경으로 데이터와 알고리즘의 표준화, 공개 데이터 확대, 병원 인프라의 노후화 등을 들었다. 표준화된 데이터는 AI 학습과 의료 서비스 개선에 도움이 되지만, 공격자에게도 취약점을 분석할 기회를 제공할 수 있다. 보안 업데이트가 쉽지 않은 병원 시스템 역시 위험 요인이다.
AI의 판단 방식도 문제다. 김 교수는 의료진과 AI가 같은 사례를 놓고 판단하는 연구에 참여한 경험을 소개했다. 자살을 시도한 환자가 퇴원을 요구하는 상황에서 환자를 퇴원시킬지 입원시킬지 결정하려면 환자의 상태뿐 아니라 가족의 돌봄 여건과 과거 행동 등 다양한 조건을 고려해야 한다.
의료진은 새로운 정보를 접하면 처음 내린 판단을 수정할 수 있지만, AI는 특정 결론을 먼저 정한 뒤 이를 뒷받침하는 근거를 찾는 듯한 모습을 보일 수 있다는 게 김 교수의 설명이다. 그는 복잡한 의료 판단에서는 다양한 상황과 맥락을 함께 고려해야 하는 만큼 AI의 결론을 그대로 받아들여서는 안 된다고 강조했다.
김 교수는 AI의 한계를 지적하면서도 디지털 헬스의 성장 가능성은 높게 평가했다. 대표적인 사례로 연속혈당측정기(CGM)를 들었다.
CGM은 피부에 부착한 센서로 5분 간격으로 혈당을 측정해 하루 동안의 변화를 실시간으로 보여준다. 기존에는 환자가 병원에 방문할 때 혈당 수치를 기록해 제출하는 방식이 일반적이었지만, CGM을 활용하면 혈당이 높을 때 측정을 피하는 등 환자의 자기보고만으로는 파악하기 어려웠던 생활 패턴까지 확인할 수 있다.
혈당 변화와 발작 위험 사이의 관계를 분석하는 등 데이터 기반 건강관리도 가능해졌다. 대한당뇨병학회와 미국당뇨병학회 등에서도 진료 지침에 디지털 기기를 활용한 건강관리를 강조하는 흐름이 나타나고 있다고 김 교수는 설명했다.
디지털 헬스 시장이 성장하기 위해서는 이용자가 서비스를 지속적으로 사용하는 환경을 만드는 것이 과제다. 김 교수는 세계보건기구(WHO)가 주관하는 글로벌 디지털헬스 파트너십(GDHP)의 논의를 소개하며, 디지털 헬스가 활성화되지 못하는 주요 원인 중 하나로 이용자의 낮은 지속 사용률을 꼽았다.
위고비 등 비만 치료제의 등장도 디지털 헬스케어 시장에 영향을 미쳤다고 진단했다. 약물로 체중을 줄일 수 있는 선택지가 생기면서 운동과 식단 관리 등을 돕는 디지털 헬스 서비스의 역할이 상대적으로 위축될 수 있다는 것이다. 김 교수는 체중 관리에만 집중하기보다 고혈압과 당뇨병, 이상지질혈증 등 지속적인 생활습관 관리가 필요한 만성질환 영역에서 디지털 헬스의 가치를 찾아야 한다고 강조했다.
CGM 역시 당뇨병 환자뿐 아니라 체중 관리에 관심 있는 일반인에게 주목받았지만, 호기심으로 한두 번 사용한 뒤 지속적으로 활용하는 경우는 많지 않다는 설명이다. 건강 데이터를 보여주는 데 그치지 않고 이용자가 계속 사용할 만한 실질적인 가치를 제공해야 한다는 것이다.
김 교수는 디지털 헬스의 활용 영역으로 비대면 진료와 만성질환 관리를 제시했다. 고혈압과 당뇨병, 이상지질혈증처럼 생활습관 관리가 중요한 질환은 디지털 기기를 활용하면 병원 방문 사이에도 환자의 상태를 확인하고 관리할 수 있다.
임신성 당뇨병 환자도 활용 대상이다. 혈당 변화에 따라 인슐린 투여량을 조정해야 하지만 매일 병원을 방문하기는 어렵다. 디지털 헬스와 비대면 진료를 결합하면 환자의 상태를 지속적으로 확인하면서 적절한 관리와 상담을 제공할 수 있다는 설명이다.
디지털 헬스가 개인에게 운동이나 식단 관리를 권하는 방식만으로는 한계가 있다는 점도 짚었다. 아동 비만 문제 역시 아이에게 운동을 권하는 데 그칠 것이 아니라 부모와 가족의 생활습관, 학교와 주변 환경까지 함께 바꿔야 한다는 것이다.
김 교수는 “개인뿐 아니라 가족과 사회가 함께 바뀌어야 건강관리의 실질적인 효과를 낼 수 있다”며 “AI와 비대면 진료 시대에는 디지털 헬스가 확장할 영역이 많다. 어떤 분야에 집중해 실질적인 가치를 만들어낼지 고민해야 한다”고 말했다.
