[서울=뉴스핌] 김지나 기자 = 정부가 생성형 인공지능(AI)을 악용한 딥페이크 성범죄에 대응하기 위해 AI 기반 탐지 기술을 활용한 관계기관 공동 대응체계를 구축한다.

행정안전부와 성평등가족부, 방송미디어통신위원회는 25일 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 체결하고 피해영상물의 탐지·분석부터 삭제·차단, 피해자 보호까지 전 과정에 AI 기술을 활용하기로 했다.

이번 협약은 생성형 AI 기술 발전으로 딥페이크 성범죄가 지능화·고도화되고 피해영상물이 온라인에서 빠르게 확산되는 상황에 대응하기 위해 마련됐다.

정부는 행정안전부가 국립과학수사연구원과 공동 개발한 'AI 딥페이크 탐지·분석모델'을 관계기관과 공유해 피해영상물 대응 과정에 본격 활용할 계획이다.

협약식에는 김민재 행정안전부 차관, 정구창 성평등가족부 차관, 고민수 방송미디어통신위원회 상임위원 등이 참석해 기관 간 협력 강화를 약속했다.

이번 협약에 따라 세 기관은 AI 딥페이크 탐지·분석모델 공유 및 활용, 피해영상물 탐지·삭제·차단 절차 연계, 2차 피해 방지를 위한 정보보호와 보안조치 등에 협력한다.

행정안전부는 AI 탐지·분석모델을 지속적으로 고도화해 관계기관에 제공하고, 성평등가족부는 기존 민간 탐지모델과 병행 활용해 피해영상물 분석과 삭제를 강화할 계획이다. 방송미디어통신위원회는 온라인 플랫폼과의 협력을 통해 딥페이크 성범죄물의 신속한 삭제·차단과 재유포 방지에 나선다.

정부는 앞으로 피해영상물이나 의심 콘텐츠가 접수되면 AI 탐지·분석모델을 활용해 1차 분석을 실시하고, 그 결과를 삭제·차단 및 피해자 지원 절차와 연계하는 등 대응 체계를 운영할 방침이다. 아울러 개인정보와 피해자 인권 보호를 최우선으로 고려해 불필요한 복제·공유·보관을 제한하는 등 보안관리 기준도 강화한다.

윤호중 행정안전부 장관은 "딥페이크 성범죄는 피해 확산 속도가 빠르고, 재유포·변형으로 인한 2차 피해 우려가 큰 만큼 관계기관 간 신속한 공동대응이 중요하다"라며 "행정안전부는 'AI 딥페이크 탐지·분석모델'을 관계기관과 공유하고, 탐지·분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력체계를 구축해 나가겠다"라고 밝혔다.

abc123@newspim.com