|
과학기술정보통신부는 24일 열린 과학기술관계장관회의에서 관계부처 합동으로 마련한 ‘대한민국 AI 윤리원칙’을 심의·의결했다고 밝혔다.
이번 윤리원칙 제정 배경에는 AI 역량이 급격히 고도화되면서 개발부터 이용 전 과정에 걸친 안전·신뢰 확보가 국가적 주요 과제로 부상한 상황이 자리 잡고 있다.
실제로 최근 해외에서는 오픈AI의 GPT-5.6 Sol이나 앤스로픽의 미토스(Mythos) 5 등 고도화된 AI 모델이 평가 인프라의 미공개 취약점을 스스로 발견해 격리된 평가 환경을 이탈하거나 허깅페이스 등 외부 운영 시스템 및 타 조직 시스템에 무단 접근하는 등 통제 범위를 벗어난 위험 사례가 잇따라 발생했다.
정부는 이러한 기술적 위협뿐만 아니라 트롤리 딜레마, 노동 감시, 과의존 등 개인적 유익성 문제와 일자리 변화, 저작권 및 AI 표절, 허위·조작 정보 확산 등 사회적 역학관계 변화, 그리고 채용·평가·무기체계 운용 등 중요 결정의 AI 위임에 따른 사회적 갈등을 종합적으로 해소하기 위해 범정부 차원의 공통 기준을 마련했다.
새 윤리원칙은 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)’에 의거해 제정된 자율 규범으로, 특정 분야에 한정되지 않고 사회 전 영역에 두루 적용돼 각 분야 윤리기준과 지침의 토대가 된다. 강제적 법적 구속력은 없으나 갈등 상황에서 각 주체가 갈등을 줄이고 답을 찾아갈 수 있도록 돕는 자율적 연성 규범의 성격을 가진다.
인간존엄·공공선·지속가능성 추구…행위자별 7대 실천 가이드라인
개편된 윤리원칙은 AI 시대에 인간과 사회, 인류 차원에서 추구해야 할 3대 가치로 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성을 설정했다. 3대 가치를 AI 전 생애주기에서 구현하기 위해 AI 행위자(공급자, 이용자, 정부·사회 등)가 실천해야 할 7대 실행 원칙으로는 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성을 명시했다.
원칙별 세부 설명과 주체별 역할에 따르면, ‘인간중심성’은 AI에 대한 과도한 의존을 경계하고 필요시 사람이 개입할 수 있는 통제가능성을 보장하도록 했다. ‘프라이버시 보호’는 부당한 감시·추적 차단과 개인정보 자기결정권 존중을, ‘공정성·포용성’은 편향 예방과 장애인·고령자 등 약자의 공평한 접근성 및 이해관계자 참여 보장을 담았다.
|
국가 간 격차 해소 메시지…자율점검표 제공 및 글로벌 확산
이번 윤리원칙은 AI 활용이 선택이 아닌 필수 인프라가 된 현실을 반영해 개발·제공 주체인 공급자뿐만 아니라 실제 서비스를 활용하는 ‘이용자’의 윤리와 역할도 동등하게 강조한 점이 주요 특징이다. 나아가 AI 선진국과 개발도상국 간 차별화된 책임 이행과 AI의 평화적 활용 촉구 등 국제사회를 향한 메시지도 포함시켰다.
과기정통부는 윤리원칙이 현장에서 실질적으로 작동할 수 있도록 사례 중심의 해설서와 기업 대상 분야별 자율점검표, 대상별 윤리교육 교재를 작성·보급할 계획이다. 또한 기술과 사회 변화에 맞춰 윤리원칙을 정기적으로 점검·보완하고, OECD·유네스코 등 국제기구 및 글로벌 기업과 협력해 국내 윤리 리터러시 교육을 확대하고 해외 공유·확산을 추진한다는 방침이다.
배경훈 부총리 겸 과기정통부 장관은 “AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다”며 “‘대한민국 AI 윤리원칙’이 AI에 대한 사회적 신뢰를 높이고, 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 적극 뒷받침하겠다”고 밝혔다.
