김재인 경희대 비교문화연구소 교수(철학박사)는 20일 한국정보통신법학회(회장 이성엽 고려대 기술경영전문대학원 교수)가 주최한 제18회 AI윤리법제포럼에서 관련 연구를 소개하며 AI 의존에 따른 학습 손실을 지적했다.
|
김 교수에 따르면 MIT 미디어랩은 보스턴 지역 5개 대학 대학생들을 대상으로 4개월간 글쓰기 실험을 진행했다. 참가자를 챗GPT 사용 집단, 인터넷 검색 집단, 별도 도구 없이 직접 글을 쓰는 집단으로 나눠 뇌파와 인지 활동을 관찰했다.
챗GPT 사용 집단은 직접 글을 쓴 집단보다 전반적인 인지 활동이 낮았다. 인터넷 검색 집단은 직접 글을 쓴 집단에 상대적으로 가까운 양상을 보였다. 챗GPT 사용 집단은 자신이 쓴 글의 문장과 내용을 잘 기억하지 못했고, 자기 글이라는 애착도 상대적으로 낮았다.
실험 마지막에는 집단별 글쓰기 조건을 바꿨다. 챗GPT를 사용하던 참가자는 AI 없이 글을 쓰고, 직접 글을 써온 참가자는 챗GPT를 사용하도록 했다. 그 결과 앞서 챗GPT를 사용했던 참가자들은 AI 없이 글을 쓰는 데 어려움을 겪었지만, 직접 글을 써온 참가자들은 글쓰기 능력을 비교적 유지했다.
AI로 과제를 완성하는 것과 그 과정에서 생각하고 배우는 것은 다를 수 있다는 의미다. 글을 직접 구성하고 표현을 다듬는 과정은 내용을 이해하고 기억하는 훈련이기도 하다.
|
|
김 교수는 스톡홀름대 데이비드 스트롬버그(David Stromberg) 교수와 홍콩대 레이 웨이(Victor Lei), 우옌후이(Yanhui Wu) 연구진이 진행한 중국 중·고등학생 약 2만7000명의 30개월 추적 연구도 소개했다. 생성형 AI 활용 이후 숙제 완료 시간은 30% 줄고 숙제 점수는 18% 올랐다. 하지만 학생들이 숙제를 AI에 전적으로 맡기는 수준에 이르기까지는 5개월밖에 걸리지 않았다.
AI 없이 치른 시험에서는 다른 결과가 나타났다. 발표 자료에 따르면 월례고사 점수는 약 20%, 고입 시험은 24%, 대입 시험은 18% 하락했다. 학습 손실의 영향이 약 2년 뒤에야 뚜렷해졌다는 분석도 제시됐다.
김 교수는 이를 ‘회수 불가능한 학습 손실’로 설명했다. AI가 과제를 대신해 점수를 높이더라도 학생이 직접 고민하고 연습하며 쌓아야 할 지식과 능력은 축적되지 않을 수 있다는 것이다.
그는 경제협력개발기구(OECD)의 국제학업성취도평가(PISA) 관련 분석도 소개했다. 발표 자료에서는 쓰기 과제의 AI 활용 정도와 읽기 성적 사이에 부정적인 관계가 나타났고, 과학 과제에서도 AI 활용 정도에 따라 성적 차이가 최대 140점에 이른다는 분석이 제시됐다. 다만 AI 사용이 성적 하락의 직접 원인이라고 단정하기는 어렵다.
|
김 교수는 MIT 특별위원회 보고서를 인용해 AI가 학생 대신 답을 내놓으면 과제는 쉽게 끝낼 수 있지만, 스스로 배우고 능력을 키울 기회는 줄어들 수 있다고 지적했다.
어려운 문제를 만났을 때 곧바로 AI에 의존하는 현상은 ‘인지적 항복’, 시행착오를 거쳐 해결책을 찾는 과정은 ‘생산적 고투’로 설명된다. 어려움을 극복하는 과정 자체가 학습의 일부인 만큼 AI가 학생의 사고를 대신해서는 안 된다는 취지다.
뉴욕시도 학생들의 학습 기회를 보호하기 위한 AI 사용 유예 방안을 추진하고 있다. 조란 맘다니 뉴욕시장은 9월 2일(현지시간) 기자회견에서 만 2세부터 중학교 2학년까지를 대상으로 생성형 AI 사용을 일정 기간 유예하는 방안을 제시했다. 학생들이 스스로 생각하고 문제를 해결하는 시간을 확보하자는 취지다.
AI에 따른 학습 손실은 기업으로도 확산할 수 있다. 이미 익힌 기술을 자동화 도구에 의존하면서 잃는 현상이 ‘탈숙련(De-skilling)’이라면, 기초 역량을 쌓기도 전에 AI에 업무를 맡겨 필요한 능력을 익히지 못하는 상황은 ‘네버 스킬(Never-skill)’이다.
신입 직원이 자료를 찾고 분석하고 보고서를 작성하는 과정은 업무 맥락을 이해하고 결과를 검증하며 전문성을 쌓는 훈련이다. AI가 이를 대신하면 경험을 쌓을 기회가 줄고, 선배 직원도 후배를 가르치기보다 AI에 업무를 맡길 수 있다. 단기적인 생산성 향상이 장기적으로 숙련 인력을 확보하기 어렵게 만들 수 있다는 얘기다.
김 교수는 “AI를 도입하면 당장의 업무 처리 속도는 빨라지지만, 조직과 사회가 미래에 기댈 수 있는 실력의 저수지는 조용히 말라갈 수 있다”고 지적했다.
AI에 묻기 전 먼저 생각해야…사용 방식 바꿔야
김 교수는 AI 사용을 무조건 막기보다 스스로 생각하는 과정을 보장하도록 활용 방식을 설계해야 한다고 강조했다.
AI를 켜기 전 10~15초 동안 자신의 생각을 정리하고 해결 방향을 고민하는 시간을 확보하자는 것이다. 과제를 받으면 곧바로 AI에 답을 요구하기보다 핵심 쟁점과 가능한 해결책을 먼저 적어본 뒤 질문하고, AI의 답과 자신의 생각을 비교해 판단을 다듬는 방식이다.
AI 서비스의 화면과 기능도 바꿀 만 하다고 했다. 추천 정보를 제공하는 기능과 최종 의사결정 인터페이스를 분리해 AI는 선택지와 근거를 제시하되, 사용자가 이를 검토하고 직접 판단하는 단계를 남겨두자는 취지다.
