내가 쓴 책을 인공지능이 배웠다. 그런데 그 인공지능의 답변을 또 다른 인공지능이 배우고, 다시 그 결과를 새로운 인공지능이 학습한다. 몇 단계를 거친 뒤 기업은 이렇게 말한다. "우리는 작가의 책을 직접 복제하지 않았습니다."

이때 작가는 누구에게 무엇을 물을 수 있을까. 자신의 문장이 어디에서 사용되었는지, 어떤 경로로 다른 서비스에 전달되었는지조차 알 수 없다면 저작권은 어떻게 행사할 수 있을까. AI 시대 저작권의 문제는 침해 여부를 넘어, 권리자가 자신의 창작물 이용을 확인하고 대응할 수 있는가라는 '통제가능성'의 문제로 넓어지고 있다.

AI 기술의 개발이나 사용이 곧 저작권 침해를 뜻하는 것은 아니다. 저작권은 지식과 사실, 아이디어 자체를 독점하게 하는 권리도 아니다. 그러나 인간이 창작한 표현이 어떤 경로로 이용되는지 확인하고, 허락이 필요한 이용에 조건을 정하며, 침해에 대응하도록 하는 핵심적인 법적 수단이다. 기술이 발전하더라도 이 기능까지 사라져서는 안 된다.

문제는 기술의 구조가 복잡해질수록 권리행사에 필요한 사실을 확인하기 어려워진다는 점이다. 기업은 데이터를 수집하고 가공하고 학습시키는 방식을 바꿀 수 있다. 원문을 직접 이용하는 대신 다른 모델의 출력을 활용할 수도 있다. 이러한 변화가 모두 법을 피하려는 목적에서 이루어진다고 단정할 수는 없다. 다만 그 결과로 창작물의 이용 경로가 불투명해지고, 권리자가 침해를 입증하기 어려워질 수 있다는 점은 살펴야 한다.

대표적인 사례가 '지식증류'다. 쉽게 말하면 교사 역할을 하는 AI의 답변이나 예측 결과를 이용하여 학생 역할의 AI를 학습시키는 방식이다. 더 작고 효율적인 모델을 만드는 데 활용할 수 있는 기술이지만, 저작권 문제에서는 새로운 질문을 던진다.

가령 A기업이 수많은 도서를 이용해 AI를 개발하고, B기업이 그 AI의 답변을 수집해 새로운 모델을 만들었다고 하자. B기업이 원본 도서에 직접 접근하지 않았다는 사실만으로 모든 저작권 문제가 해결되는 것은 아니다. A기업 AI의 답변에 원저작물의 창작적인 문장이나 구체적인 표현이 재현되어 있고, B기업이 이를 다시 이용했다면 그 과정의 복제나 표현 이용을 따져야 한다.

반대로 전달된 내용이 일반적인 지식이나 사실, 아이디어에 그친다면 원저작권자가 후속 모델까지 당연히 통제할 수 있다고 보기도 어렵다. 최초 모델의 학습에 문제가 있었다는 이유만으로 모든 후속 모델이 자동으로 침해물이 되는 것도 아니다. 핵심은 몇 단계를 거쳤는지가 아니라, 그 과정에서 보호되는 표현이 실제로 어떻게 이용되었는가에 있다.

그런데 바로 그 사실을 확인할 자료가 기업 내부에 있다. 작가는 자신의 표현이 이전되었다고 의심하더라도, 어느 모델의 어떤 출력을 거쳐 다음 학습에 들어갔는지 알기 어렵다. 법률상 권리가 존재해도 이를 행사할 정보가 없다면, 권리는 현실에서 힘을 잃는다.

여기서 반드시 구별해야 할 것이 있다. AI가 만든 결과물에 새로운 저작권이 생기는지와, 그 결과물이 타인의 저작권을 침해하는지는 서로 다른 문제다. AI가 저작자가 될 수 없다고 해서 기존 작품의 표현을 자유롭게 복제하거나 변형해도 된다는 결론이 나오지는 않는다. "기계가 만들었다"는 사정은 기업이나 이용자의 행위에 대한 법적 검토를 대신할 수 없다.

책을 구입했다는 사실 역시 모든 후속 이용을 포괄적으로 허락받았다는 뜻은 아니다. 미국의 앤트로픽 관련 소송에서 2025년 6월 연방지방법원은 해당 사건의 AI 학습 이용과 구입한 종이책의 디지털 전환을 공정이용으로 판단하면서도, 해적판을 내려받아 중앙 자료실에 보관한 행위는 별도로 다루었다.

자료의 취득, 보관, 학습이라는 단계에 따라 판단을 구별한 것이다. 이는 미국의 특정 사건에 관한 판단이며, 모든 AI 학습의 적법성을 일괄적으로 인정한 것으로 읽어서는 안 된다. 이 사례를 특정 기업이 합성 데이터나 모델 병합을 이용해 저작권을 회피했다는 주장으로 확대할 근거는 없다. 우리가 주목할 것은 확인되지 않은 기술적 추측이 아니라, 책을 확보한 뒤 어떤 이용이 이루어졌는지 확인할 수 있는 제도다.

검색증강생성, 이른바 RAG도 마찬가지다. RAG는 답변을 만들 때 외부 자료를 검색해 활용하는 방식이고, 지식증류는 다른 모델의 결과를 학습에 활용하는 방식이다. 어느 하나가 다른 하나를 반드시 대체하는 관계는 아니다. 기술의 이름이 달라져도 자료를 복제하거나 보호되는 표현을 재현하는 과정이 있는지 살펴야 한다. 미국 저작권청도 2025년 AI 학습 보고서에서 자료 수집, 학습, RAG, 출력 단계의 저작권 쟁점을 구분해 검토했다.

따라서 필요한 것은 기술 방식이 바뀌어도 작동하는 투명성 제도다. 원본을 직접 학습했는지, 다른 모델의 출력을 이용했는지, 합성데이터를 활용했는지에 따라 모든 기록이 끊겨서는 안 된다. 기업이 합리적으로 확인할 수 있는 범위에서 데이터의 출처와 취득 근거, 주요 가공 과정, 후속 학습으로 전달된 경로를 남기도록 해야 한다.

캘리포니아는 이미 이 방향으로 나아갔다. AB 2013에 따라 마련된 민법 제3111조는 적용 대상 생성형 AI 개발자에게 학습데이터에 관한 요약 정보를 공개하도록 하며, 2026년 1월 1일부터 의무가 적용된다. 데이터의 출처와 유형, 저작권 보호 자료의 포함 여부, 합성데이터 이용 여부 등을 알리도록 하는 제도다. 다만 이러한 요약 공개가 개별 작가에게 자신의 모든 작품 이용 내역을 확인해 주거나, 학습 허락과 보상을 자동으로 보장하는 것은 아니다.

우리에게 필요한 제도는 이러한 공개를 출발점으로 삼되, 실제 권리행사로 이어질 수 있어야 한다. 일반 대중에게는 학습데이터의 구성과 이용 방식을 설명하고, 구체적인 침해 의혹이 있는 권리자에게는 관련 이용 여부를 확인할 절차를 마련해야 한다. 분쟁이 발생하면 법원 등이 필요한 범위에서 기록을 확인할 수 있어야 한다. 후속 모델 개발자의 책임도 구체적으로 나누어야 한다. 원저작물을 직접 수집한 기업, 다른 모델의 출력을 모은 기업, 이를 학습한 기업, 서비스를 운영한 기업이 각각 무엇을 했는지 확인해야 한다.

알 수 없었던 사실까지 무한정 책임지게 할 수는 없지만, 직접 원본을 확보하지 않았다는 이유만으로 원산지와 출처를 확인하지 않은채 자신이 수행한 표현의 재이용까지 설명하지 않아도 된다는 구조 역시 바람직하지 않다.

저작권자의 통제가능성이란 AI가 얻은 모든 지식을 소유하겠다는 뜻이 아니다. 자신의 창작적 표현이 어디에서 어떻게 이용되었는지 확인하고, 허락이 필요한 이용에는 조건을 정하며, 침해가 발생하면 실효적으로 대응할 수 있다는 뜻이다. 우리 인공지능기본법도 투명성의 필요성을 인정하고 있다.

제31조는 AI 기반 서비스라는 사실의 고지와 생성형 AI 결과물의 표시를 규정하고, 제34조는 고영향 AI에 대하여 학습용데이터의 개요 등에 관한 설명 방안을 수립·시행하도록 한다.

그러나 이러한 의무만으로 저작권자가 자신의 작품이 학습에 사용되었는지, 어떤 경로를 거쳐 후속 모델에 이용되었는지 확인하기는 어렵다. 저작권 문제는 고영향 AI에 해당하지 않는 생성형 AI에서도 발생한다. 따라서 현행법의 설명 의무를 바탕으로, 저작물의 이용 여부와 경로를 확인할 수 있는 기록·정보제공 제도를 보완해야 한다. AI의 판단을 이해하기 위한 투명성과 창작자의 권리행사를 가능하게 하는 투명성을 함께 갖추어야 한다.

기술이 여러 단계를 거친다고 해서 인간의 권리까지 사라져서는 안 된다. AI가 무엇을 할 수 있는지에 관한 경쟁만큼, 무엇을 배우고 어떻게 전달했는지 설명할 책임도 중요하다. AI 시대 저작권 제도의 과제는 이 책임이 기술의 변화 속에서도 작동하도록 만드는 데 있다.

*박정인 교수(법학박사)는 대통령 국가지식재산위원회 본위원회 위원, 문체부 저작권보호심의위원회 심의위원, 문체부 여론집중도조사위원회 상임위원, 인터넷주소분과위원회, 웹콘텐츠 활성화위원회 자문위원, 강동구 공직자윤리위원회 심의위원, 경찰청 사이버범죄 강사 등 여러 국가 위원을 역임했다. 공공기관 대상 법령입안강의를 하며, 대학에서 특허법, 저작권법, 산업보안법, 과학기술법, 정보보안법, 디지털증거법, ICT트러스트공학, 일반 산업안전, 중대재해법 등을 강의한다. 한국인터넷진흥원, 한국콘텐츠진흥원, 인텔리콘 메타연구소, 해인예술법연구소, 숙명여대 초빙교수, 단국대 연구교수 등을 역임했다.