[서울=뉴스핌] 황혜영 기자 = 청소년이 SNS(소셜네트워크서비스) 추천 알고리즘을 통해 유해 콘텐츠에 노출되고 AI(인공지능) 챗봇과 위험한 대화를 나누는 문제에 대응하려면 플랫폼 사업자의 예방·보호 책임을 강화해야 한다는 제언이 나왔다. 이용자와 보호자의 주의에만 의존하지 말고 서비스 설계 단계부터 위험을 줄여야 한다는 지적이다.

4일 열린 '2026년 제5차 청소년 정책포럼'에서는 청소년 디지털 안전을 위한 플랫폼 사업자 책임 강화 방안이 논의됐다. 참석자들은 유해 콘텐츠를 사후에 삭제·차단하는 대응을 넘어 위험을 유발하거나 확대하는 서비스 구조를 개선하는 안전설계가 필요하다고 강조했다.

문제는 청소년이 직접 검색하지 않아도 추천 시스템을 통해 유해 콘텐츠를 접할 수 있다는 점이다. 노경 초록우산 옹호사업본부 팀장이 소개한 조사에서는 숏폼 플랫폼 이용 경험이 있는 아동·청소년의 53.4%가 유해 콘텐츠에 노출됐다고 답했다. 이 가운데 80.3%는 추천 알고리즘을 통해 해당 콘텐츠를 접했다.

AI 챗봇 이용 과정에서도 안전에 대한 우려가 제기됐다. 초록우산이 올해 3월 만 14세 이상 아동·청소년 3300명을 대상으로 실시한 조사에서 응답자의 약 6%는 자해·자살, 폭력, 성적 내용 등 위험한 질문을 한 경험이 있었다. 그 가운데 약 52%는 관련 답변을 받았다고 응답했다. 전체 응답자의 약 50%는 AI가 자신을 이해해 준다고 느꼈고, 약 41%는 답변을 실제 행동으로 옮긴 경험이 있다고 답했다.

성욱제 정보통신정책연구원 선임연구위원은 이용 시간 자체보다 이용자가 스스로 멈추기 어려워지는 구조에 주목해야 한다고 지적했다. 무한 스크롤과 자동 재생, 반복 알림 등이 맞춤형 추천과 결합하면서 강박적 이용을 유도할 수 있다는 설명이다.

성 선임연구위원은 "오래 머무는 게 문제가 아니라 내가 멈추고 싶어도 멈출 수 없는 상태를 문제라고 보는 것"이라며 "내가 스스로 판단할 수 있는 기회를 잃게 하는 것"이라고 말했다.

대안으로는 위험한 설계를 줄이는 규제와 사업자의 사전 위험평가가 제시됐다. 성 선임연구위원은 "설계 쪽에 가장 초점을 맞춰서 그것부터 먼저 나가야 된다고 생각한다"며 "사업자들이 더 많은 데이터를 갖고 있기 때문에 사업자가 설계상 위험을 사전에 평가하도록 하는 제도를 함께 도입해야 한다"고 말했다.

위험평가를 실제 서비스 개선으로 연결할 감독체계도 과제로 꼽혔다. 노 팀장은 "위험평가의 범위를 유해콘텐츠 노출에만 한정하지 않고 반복적인 추천과 확산, 과몰입·과의존을 유도하는 설계, 원치 않는 접촉과 괴롭힘 등 서비스의 구조적 위험까지 포괄해야 한다"고 밝혔다.

이어 노 팀장은 "제도가 형식적인 평가나 보고에 그치지 않고 실제 서비스 개선으로 이어지도록 하는 것이 중요하다"며 "위험평가 결과와 개선조치에 대한 보고·공표 체계를 마련하고 규제기관의 점검과 시정조치, 독립적인 검증이 가능하도록 감독체계를 구축해야 한다"고 강조했다.

청소년을 보호한다는 이유로 접근 자체를 일괄적으로 제한해서는 안 된다는 의견도 나왔다. 청소년 당사자로 참여한 신현범 제22회 청소년특별회의 의장은 "규제의 중심을 청소년의 접근 제한에서 AI 플랫폼 사업자의 책임 강화로 옮겨야 한다"고 말했다.

신 의장은 "자해·자살을 비롯한 고위험 상황에서 구체적인 위해 방법을 제공하지 않도록 하고 위기 신호가 감지되면 적절한 전문기관의 도움으로 연결하는 체계를 마련해야 한다"며 "AI임을 명확히 알리고 장시간 이용 시 휴식을 안내하며 청소년 계정에는 안전한 기본 설정을 적용할 필요가 있다"고 설명했다.

그는 "청소년을 보호한다는 것은 청소년이 위험에 접근하지 못하도록 막는 것만이 아니라 위험을 줄인 환경에서 배우고 성장할 수 있도록 만드는 것이기도 하다"고 강조했다.

정구창 성평등가족부 차관은 "청소년의 안전이 곧 서비스의 품질이자 기술 혁신의 중요한 기준이 돼야 한다"며 "관계 부처, 전문가, 현장과 협력해 청소년이 디지털 기술의 혜택을 안전하게 누릴 수 있도록 오늘 제안해 주시는 의견을 구체화하고 충실히 반영해 나가겠다"고 밝혔다.

hyeng0@newspim.com