[서울=뉴스핌] 고다연 기자 = # 30대 A씨는 최근 소셜네트워크서비스(SNS)를 보다가 깜짝 놀랐다. 사람들이 건물 높이만큼 쌓인 눈더미 위에서 안전장치도 없이 눈밭으로 뛰어내리는 영상이 떴기 때문이다. A씨는 영상을 한참 살펴보고 나서야 인공지능(AI)이 만든 영상이라는 것을 눈치채고 피로감을 느꼈다.

최근 AI로 만든 저품질 콘텐츠, 이른바 AI 슬롭(찌꺼기)가 SNS 등을 통해 무분별하게 확산되면서 이로 인한 피로감과 불쾌감을 호소하는 사용자가 늘고 있다. 하지만 '저품질' 기준이 모호하고 저품질 자체를 '잘못'으로 보기 모호한 탓에 규제하기도 어려운 상황이다.

17일 SNS에 잘못된 정보가 포함된 AI 영상이 올라오면 사용자들이 댓글에서 AI 여부를 놓고 '갑론을박'을 벌이는 모습을 볼 수 있다.

A씨가 시청한 폭설 영상 역시 '러시아 폭설' 이라는 설명과 함께 X(구 트위터), 인스타그램 등을 통해 퍼졌다. 해당 영상에 한 이용자가 "여기 나오는 영상 전부 다 AI"라는 글을 올리자 다른 이용자가 댓글로 "뉴스보고 오삼"이라고 적었다.

이 댓글에 또 다른 이용자는 "러시아 폭설은 팩트고 러시아 폭설 영상들은 AI 임 AI 영상을 증거 자료로 씀"이라는 글을 달았다. 실제 폭설 사실과 별개로 영상이 AI로 만들어졌다는 얘기가 나오자 댓글에서 이를 지적하고 반박하는 글이 달렸다.

SNS를 매일 본다는 20대 직장인 B씨는 "장애나 흉터를 가진 사람의 외형 변화를 보여주거나 동물들을 AI로 만든 숏폼 영상이 무작위로 자주 뜬다"며 "가끔 너무 인위적인 상황이면 AI임을 눈치채는데 최근에는 댓글을 보고 나서야 알게 되는 경우도 있다"고 말했다. B씨는 "AI인걸 알게 되면 속은 기분과 함께 이제는 정말 구분이 안가서 무섭기도 하다"며 "AI 영상이라는 걸 알 수 있게 해야 하는 규제가 필요하다"고 말했다.

대형 영상 플랫폼 역시 저품질 AI 콘텐츠로 인해 골머리를 썩고 있다. 닐 모한 유튜브 CEO는 최근 공식 블로그를 통해 올해 최우선 과제를 밝히면서 'AI 슬롭 관리'를 꼽았다. 저품질 AI 콘텐츠의 확산을 줄이기 위해 스팸과 클릭베이트(클릭을 유도하는 미끼) 등을 막는 게 핵심이다. AI 슬롭 영상 소재는 다양하지만 대부분 맥락이 없다. 동물의 귀여운 모습을 만들어낸 영상이 흔하지만 설명 없이 감옥 수감자가 교도관을 공격하는 등 자극적인 장면이 담긴 영상들도 있다.

문제는 AI로 만든 저품질 영상이 SNS 등을 타고 광범위하게 퍼지지만 규제하기가 어렵다는 점이다. 현행 법과 제도 '사각지대'에 있는 것.

이재성 중앙대 AI학과 교수는 "AI 슬롭이라는 것 자체가 경계가 모호하다"며 "어디서부터 저품질인지, 저품질인 것이 잘못인지 등 문제가 있다"고 설명했다. 이 교수는 "다만 플랫폼 기업들은 AI 슬롭 피해를 받을 수밖에 없다"며 "슬롭이 가득하면 사용자 만족도가 떨어지면서 매출도 줄어드는 효과가 있기 때문이다"라고 덧붙였다. 그러면서 "슬롭이 유입되는 양에 따라 자정 작용이 일어날 수도 있고, 임계를 넘어 오염된 채로 (콘텐츠 생태계가) 죽을 수도 있다"고 말했다.

한국 AI교육협회장인 문형남 숙명여대 글로벌융합학부 교수는 "AI 슬롭이 심해지는 것을 방치하면 당연히 심화될 수 밖에 없다"며 "정부, 기업 등 관련 주체들이 자율 기구를 만들거나 대책이 필요하다"고 말했다. AI리터러시 교육 강화 등도 병행 돼야 한다는 게 문 교수 설명이다.

gdy10@newspim.com