[서울=뉴스핌] 정태선 기자 = 인큐랩플러스가 운영하는 인공지능(AI) 기반 어린이 에듀테인먼트 플랫폼 '키즈토피아'가 글로벌 아동 온라인 안전 인증을 획득했다. 해외 서비스 확대에 앞서 채팅과 개인정보 보호, 이용자 신고, AI 캐릭터 운영 등 어린이 안전관리 체계를 강화한 결과다.

인큐랩플러스는 글로벌 아동 온라인 안전 프로그램인 'kidSAFE Seal Program'의 심사를 거쳐 'kidSAFE SAFE CERTIFIED Seal'을 받았다고 15일 밝혔다. 키즈토피아는 앞서 기본 단계인 'kidSAFE LISTED Seal'을 획득한 데 이어 추가 심사를 통과했다.

kidSAFE Seal Program은 어린이가 이용하는 웹사이트와 모바일 애플리케이션 등 디지털 서비스의 안전관리 체계를 평가하는 인증 프로그램이다. 채팅과 커뮤니티, 소셜 기능, 이용자 신고 절차, 개인정보 보호 장치 등이 주요 심사 대상이다. 회사 측은 키즈토피아가 해당 인증을 받은 국내 기반 서비스 가운데 하나라고 설명했다.

키즈토피아는 어린이가 가상공간을 탐험하고 친구들과 소통하며 AI 캐릭터 및 교육 콘텐츠를 이용할 수 있도록 설계된 플랫폼이다. LG유플러스에서 분사한 인큐랩플러스의 대표 서비스로, 현재 한국과 미국, 일본, 말레이시아, 필리핀, 싱가포르 등 11개국에서 제공되고 있다.

인큐랩플러스는 이번 인증 과정에서 채팅 필터의 탐지 범위를 넓히고 이름과 주소 등 개인정보로 의심되는 문구를 자동으로 감지해 가리는 기능을 보강했다. 어린이가 부적절한 대화나 이용자를 쉽게 알릴 수 있도록 신고 기능의 접근성도 개선했다.

채팅 필터에서 유해 표현이 발견되거나 이용자 신고가 접수되면 관련 정보가 운영팀에 실시간으로 전달되도록 관리 체계도 정비했다. 단순히 유해 문구를 차단하는 데 그치지 않고 이상 징후를 운영자가 신속하게 확인하고 대응하도록 한 것이다.

생성형 AI 확산에 따라 어린이가 AI 캐릭터를 실제 사람으로 오인하거나 과도하게 의존할 가능성을 줄이기 위한 장치도 마련했다. 대화 상대가 AI 캐릭터라는 사실을 이용자에게 명확하게 알리고, 일정 횟수 이상 연속으로 대화하면 잠시 쉬도록 권하는 안내를 제공한다.

샤이 사멧 kidSAFE 설립자 겸 대표는 "키즈토피아는 인증 심사 과정에서 채팅 필터링과 사용자 신고 기능, AI 안전장치를 강화했다"며 "글로벌 서비스 확대 과정에서 아동 안전을 핵심 설계 요소로 삼으려는 의지를 보여줬다"고 말했다.

김민구 인큐랩플러스 대표는 "어린이 대상 글로벌 서비스는 콘텐츠의 재미뿐 아니라 어린이와 부모가 신뢰할 수 있는 이용 환경을 갖춰야 한다"며 "해외 서비스를 확대하면서 아동 안전과 개인정보 보호 체계를 지속적으로 강화하겠다"고 말했다.

windy@newspim.com