로블록스는 3일 서울 웨스틴조선호텔에서 기자간담회를 열고 안전한 커뮤니티 환경 구축을 위한 디지털 시민의식 전략을 소개했다. 이날 행사에는 타미 바우믹(Tami Bhaumik) 로블록스 시민의식·파트너십 부사장이 연사로 나섰다.
|
9세 미만 이용자는 부모의 승인이 없으면 채팅 기능을 사용할 수 없다. 9세부터 15세까지의 이용자도 제한된 범위에서만 채팅할 수 있다. AI는 이용자 간 대화를 지속적으로 분석해 커뮤니티 가이드라인 위반 여부와 개인정보 노출 가능성 등을 확인한다.
바우믹 부사장은 “가장 중요한 목표는 부모의 승인 없이 어린이가 모르는 성인과 대화하는 것을 줄이는 것”이라며 “안면 연령 추정을 통해 이용자를 적절한 연령대의 커뮤니케이션 그룹으로 분류할 수 있다”고 말했다.
AI 기반 콘텐츠 관리 기술도 강화했다. 로블록스가 오픈소스로 공개한 AI 기술 ‘센티넬(Sentinel)’은 이용자의 대화 패턴을 분석해 부적절하거나 위험한 상호작용을 사전에 탐지한다. 위험 신호가 발견되면 이를 식별하고, 부적절한 상호작용이 실제로 발생하기 전에 차단한다.
혐오 표현이나 자해를 암시하는 대화도 AI가 감지한다. 자해 위험이 확인되면 이용자에게 적절한 안내 메시지를 제공하고 관련 지원을 받을 수 있도록 연결한다. 폭력적이거나 커뮤니티 정책을 위반한 표현을 삭제하거나 적절한 표현으로 바꾸는 ‘챗 리프레이징’ 기능도 적용했다.
부모가 자녀의 플랫폼 이용을 직접 관리할 수 있는 기능도 확대했다. 로블록스는 부모와 자녀 사이의 디지털 이해도 격차를 줄이기 위한 3D 메타버스 공간 ‘패밀리존’도 공개했다. 부모와 자녀가 함께 로블록스를 체험하면서 플랫폼의 구조와 안전 기능을 익히도록 만든 공간이다.
부모는 안내 아바타를 따라 자녀와 함께 장애물 코스를 통과하고 자녀 계정 연결, 이용 시간 제한, 결제 한도 설정, 친구 관리 등 자녀 보호 기능을 영상으로 학습할 수 있다. 로블록스는 향후 패밀리존에 온라인 사기와 사이버 괴롭힘 등에 대응하는 방법을 알려주는 미니게임도 추가할 예정이다.
“한국 게임물관리위원회와 긴밀한 협력…세계 각국 규제 준수”
로블록스가 플랫폼 안전을 전면에 내세운 배경에는 세계 각국에서 확산하고 있는 규제와 소송이 있다. 호주에서는 아동 대상 그루밍과 자살 암시 콘텐츠 노출 우려가 제기되면서 당국이 조사에 착수했다. 미국 로스앤젤레스 지방정부는 아동 성범죄 위험과 온라인 그루밍 노출 등을 이유로 로블록스를 상대로 소송을 제기했다.
한국에서는 디지털 미디어 리터러시를 중심으로 교육 사업을 확대하고 있다. 로블록스는 한국의 교육 환경과 연구진을 기반으로 부모·교사·학생용 디지털 리터러시 플레이북을 개발했다. 한국에서 제작한 가이드북과 교육 자료는 다른 국가의 교육 프로그램을 만드는 템플릿으로도 활용하고 있다.
로블록스는 한국의 규제 환경에도 적극적으로 대응하겠다는 방침을 밝혔다. 바우믹 부사장은 “게임물관리위원회와 좋은 관계를 맺고 있으며 한국에서 시행되는 모든 규제를 준수하기 위해 지속적으로 협의하고 있다”며 “한국 정부가 제시하는 정책에 맞춰 로블록스의 정책을 맞춤화하겠다”고 말했다.
로블록스는 국제등급분류연합(IARC) 등과도 협력하고 있다고 밝혔다. 바우믹 부사장은 “모든 국가와 지역은 각자 규제를 바라보는 방식이 다르다”며 “호주와 인도네시아, 유럽 등 세계 각국 정부와 긴밀하게 협력하면서 현지 법률을 준수할 수 있도록 정책과 시스템을 변경하고 업데이트하고 있다”고 덧붙였다.
