[서울=뉴스핌] 최원진 기자= 미국 인공지능(AI) 기업 앤스로픽의 AI 모델들이 사이버 보안 테스트 도중 외부 기관 3곳의 실제 시스템을 해킹한 것으로 드러났다. 경쟁사인 오픈AI가 유사한 사고를 공개한 지 일주일 만이다.

앤스로픽은 30일(현지시간) 블로그 포스팅을 통해 오픈AI의 발표 이후 자체 사이버 보안 테스트를 검토한 결과 이 같은 사실을 발견했다고 밝혔다. 오픈AI와 앤스로픽의 테스트 모두 격리되어야 할 테스트 환경에서 AI 모델이 인터넷에 접속할 수 있었던 것으로 조사됐다.

앤스로픽은 총 14만 1,006건의 평가 테스트를 검토한 결과, 자사 모델들이 인터넷에 접속한 뒤 외부 기관 3곳의 실제 인프라를 해킹한 사례 3건을 발견했다. 가장 오래된 사건은 지난 4월 발생했으며, 피해 기관들의 이름은 공개되지 않았다.

클로드의 오퍼스(Opus) 4.7, 미토스(Mythos) 5, 그리고 내부 연구 테스트 모델 등 세 가지 모델에서 해킹 사례가 발생했으며, 이들은 모두 일반 대중용 도구에 적용되는 안전장치가 해제된 상태였다.

앤스로픽의 모델들이 세 개 기관에 무단으로 접근했을 때, 이들은 각각의 공격을 훈련의 일환으로 인식했다. 시스템 내부의 숨겨진 정보를 찾아내는 이른바 '깃발 뺏기(Capture-the-flag·CTF)' 평가 과정에서 발생한 일이다. 구형 모델은 개방된 인터넷 환경이라는 증거를 포착하고도 공격을 지속한 반면, 최신 모델은 인터넷 환경임을 인지한 즉시 작동을 멈춘 것으로 나타났다.

피해를 본 외부 기관들은 물론 앤스로픽조차 침입 사실을 즉각 인지하지 못했다. 앤스로픽은 네트워크 로그와 평가 기록을 더욱 철저히 검토했어야 했다고 시인했다.

이번 사고는 앤스로픽이 AI 보안 기업 '이레귤러(Irregular)'가 구축한 평가 환경을 사용하는 과정에서 발생했다. 앤스로픽은 클로드에게 시뮬레이션 환경이며 인터넷 접속 권한이 없다고 명시했으나, 양측 간의 오해로 인해 실제 인터넷 접속이 가능했던 것으로 확인됐다.

이레귤러 대변인은 앤스로픽의 협조와 투명성에 감사를 표하며 현재 조사가 진행 중이라고 밝혔다. 앤스로픽은 강력한 자율 기능을 다루는 테스트에는 상당한 수준의 통제가 필수적이라는 교훈을 얻었다며, 평가 환경 역시 자사 모델이 구동되는 다른 시스템과 동일한 수준의 보안 기준을 갖춰야 한다고 강조했다.

한편 앞서 오픈AI도 자사 AI 모델이 테스트 중이던 격리 환경을 뚫고 외부 시스템에 침투한 사실을 공개한 바 있어, AI 업계 전반의 보안 관리 체계에 대한 우려가 커지고 있다.

wonjc6@newspim.com