'AI 특권' 어디까지 허용할 수 있을까?

요즘 수사에 새로운 관행이 생겼다. 피의자 휴대폰에서 카카오톡이나 문자보다 먼저 챗GPT 앱을 들여다보는 것이다. 수사기관은 사람들이 검색창보다 AI에게 더 솔직하게 묻는다는 걸 알아챘다.

"수면제랑 술을 같이 먹으면 어떤가", "얼마나 같이 먹으면 위험한가", "죽을 수도 있나".

올해 초 서울 강북구 모텔에서 남성 두 명이 숨진 채 발견됐다. 경찰이 20대 여성 피의자 김 모 씨의 휴대폰을 포렌식하자 챗GPT 대화 기록이 나왔다. 피의자는 "남성들을 잠들게 하려 했을 뿐 사망할 줄 몰랐다"며 고의성을 부인했지만 경찰은 AI가 사망 가능성을 경고했음에도 범행을 이어간 정황을 근거로 혐의를 살인으로 변경해 송치했다.

미국에서도 AI가 증인석에 앉았다. LA 팰리세이즈 산불 방화 혐의로 기소된 조너선 린더크네흐트의 재판에서 검찰은 그가 불타는 도시 이미지를 ChatGPT로 생성하고 불에 대한 집착을 드러낸 대화 기록을 제출했다. 검찰에 의하면 조너선은 ChatGPT를 일기처럼 사용했다.

버지니아주에서는 18세 피의자가 Snapchat AI에 "내 땅에 들어오면 쏴도 되나요?"라고 물은 대화 기록이 증거로 채택돼 25년 형이 선고됐다.

AI 챗봇은 어느새 범죄 수사의 핵심 증거 창고가 되고 있다.

수사기관이 AI 대화에 주목하는 이유는 명확하다. 웹 검색은 단어 중심이지만 AI에 입력하는 질문은 문장 구조를 갖추기 때문에 행위자의 의도와 목적이 구체적으로 남는다. "수면제 치사량"을 검색하는 것과 AI에게 "술이랑 같이 먹으면 얼마나 위험한지"를 문장으로 묻는 것은 법적으로 전혀 다른 무게를 갖는다. 검사 출신의 한 변호사는 "수사기관은 AI와의 대화기록에서 미필적 고의를 입증할 수 있다고 보기 때문에 향후 활용은 더 늘어날 것"이라고 말했다.

사람들은 AI를 '사적인 공간'으로 여긴다. 최근 연구에 따르면 AI 앱 사용자의 약 3분의 1이 챗봇과 매우 개인적인 대화를 나누며 심지어 AI를 대체 치료사처럼 사용하고 있다. 건강 고민, 관계 갈등, 재정 문제, 때로는 범죄적 충동까지. 사람들은 AI에게 친구에게도 못 할 말을 털어놓는다.

중요한 건 AI에겐 비밀을 지켜 줄 의무가 없다는 점이다. OpenAI의 서비스 약관은 소환장이나 법원 명령 등 법적 요청이 있을 경우 대화 내용을 제출해야 한다고 명시한다. 사용자가 삭제한 대화도 30일간 서버에 남으며, 법적 명령이 있으면 그 이상 보존될 수 있다. Anthropic(Claude)도 2025년 9월 약관을 바꿔 학습 참여에 동의한 사용자의 대화는 최대 5년까지 보관할 수 있도록 했다.

변호사·의사·상담사와의 대화에는 법적 비밀 유지 특권이 적용되지만, AI 대화는 현행 법체계에서 전화 통화나 검색 기록과 동일한 '일반 디지털 증거'일 뿐이다. 가장 안심하고 털어놓는 대상이 가장 입이 가벼운 대상인 셈이다.

ChatGPT를 만든 샘 올트먼 OpenAI CEO는"치료사나 의사, 변호사에게 말할 때는 특권 개념이 있다. AI 시스템에는 아직 그게 없는데, 사람들은 이미 그런 방식으로 AI를 쓰고 있다"며 'AI 특권(AI privilege)' 같은 새로운 법적 프레임워크가 필요하다고 주장했다. 쉽게 말해 AI와 대화하는 것도 변호사나 의사와 대화하는 것처럼 보호받을 수 있어야 한다는 것이다.

하지만 올트먼은 보호와 동시에 "ChatGPT에 가장 민감한 이야기를 했다가 소송이 생기면 우리는 그것을 제출해야 할 수도 있다"는 경고도 잊지 않았다. CEO는 보호를 외치지만 회사의 약관은 보호를 부정한다. 야무진 역설이다.

미국 법원이 먼저 결단을 내렸다. 2026년 2월 뉴욕 남부지법은 증권 사기 혐의를 받는 기업 임원이 AI 챗봇으로 작성한 방어 전략 문서 31건에 대해 변호사-의뢰인 특권이 적용되지 않는다고 판결했다. 피고인은 변호인에게 들은 내용을 AI에 정리했고 이후 변호인과 공유했지만, 이 같은 과정은 별 소용없었다. 미국 주요 로펌 12곳 이상이 "AI 대화가 형사·민사 사건에서 증거로 요구될 수 있다"는 경고문을 클라이언트에게 발행했다.

한국은 올해 1월 AI기본법을 시행하며 EU에 이어 세계 두 번째로 포괄적 AI 규제 체계를 갖췄다. 투명성, 안전성, 고영향 AI 규제까지 담았다.

그러나 AI 대화의 비밀 보호에 관한 조항은 없다. 개인정보보호위원회가 2025년 8월 생성형 AI 개인정보 처리 안내서를 내놨지만, 수사 과정에서의 AI 대화 활용 기준은 여전히 공백이다.

AI와의 대화에는 건강 상태, 경제 상황, 인간관계 등 민감한 정보가 광범위하게 포함될 수 있는 만큼, 수사 과정에서 어디까지 수집·활용할 수 있는지를 둘러싼 기준이 명확하지 않다는 지적이 나온다. 영장 없이 AI 대화를 열람할 수 있는지, 플랫폼 사업자에게 제출을 강제할 수 있는지도 아직 정리되지 않았다. 세계 두 번째 AI 규제 국가라는 타이틀이 무색하다.

'AI 특권'은 단순한 기술 문제가 아니라 사회 철학의 문제다.

변호사 특권은 피의자의 방어권을 보장하기 위해, 의사 특권은 환자가 숨김없이 증상을 말할 수 있도록, 상담사 특권은 내담자가 안전하게 털어놓을 수 있도록 설계됐다. 이 모든 특권의 공통 전제는 '말할 수 있어야 치유된다'는 믿음이다.

AI가 실질적으로 그 역할을 대신하고 있다면, 동일한 보호 논리가 적용돼야 한다는 주장은 설득력이 있다. 하지만 반론도 만만치 않다. 강북 모텔 사건처럼 AI 대화가 범행의 사전 계획성을 입증하는 결정적 단서가 된다면, 그것을 수사에서 배제하는 것이 과연 공익에 부합한다고 볼 수 있을까?

'AI 특권'은 결코 이분법적 시선으로 풀 수 없다. 일반적인 감정 대화와 범행 모의 질문을 같은 선상에 놓을 수 없고, AI를 치료사처럼 쓰는 청소년의 고민 일기와 살인 계획 검색을 동일하게 보호할 수 없다. 콘텐츠의 성격, 수사의 목적, 영장 발부의 기준을 정밀하게 설계하는 작업이 절대적으로 필요하다.

AI는 점점 더 많은 것을 알게 된다. 우리가 그것을 비서로 쓰든 치료사로 쓰든, AI는 멈추지 않고 기록한다. 문제는 그 기록이 누구의 것인가다. 사용자인가, 플랫폼인가, 아니면 국가인가?

한국이 AI기본법을 세계 두 번째로 만든 나라라면, 이 질문에도 세계가 주목할 만한 답을 내놓아야 할 때가 됐다.

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등