AI 핵심 요약
beta- 구글은 28일 미 국방부와 AI 모델을 기밀 업무에 사용할 수 있는 계약을 체결했다.
- 계약에 감시·자율살상무기 금지 조항이 포함됐으나 구글 거부권은 없다.
- 600명 넘는 직원들이 CEO에게 서한を送아 기밀 업무 사용을 반대했다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
딥마인드 직원들까지 반발…"살상무기·대규모 감시 연루될 수 있다"
[서울=뉴스핌] 고인원 기자= 구글(알파벳 자회사)이 자사의 인공지능(AI) 모델을 미 국방부의 기밀 업무에 사용할 수 있도록 허용하는 계약을 체결한 것으로 알려졌다. 이에 대해 600명이 넘는 구글 직원들이 "AI가 살상무기와 대규모 감시에 사용될 수 있다"며 반대 서한을 보내면서 내부 갈등이 커지고 있다.
28일(현지시간) 기술전문매체 디인포메이션에 따르면 구글은 미 국방부와 자사 AI를 "모든 합법적인 정부 목적(any lawful government purpose)"에 사용할 수 있도록 하는 계약을 체결했다. 이로써 구글은 오픈AI와 xAI에 이어 기밀 용도로 AI 모델을 공급하는 기업 대열에 합류하게 됐다.
기밀 네트워크는 작전 계획(mission planning), 정보 분석, 무기 목표물 선정 등 군사적으로 민감한 업무를 처리하는 데 사용된다.
미 국방부는 2025년 앤스로픽, 오픈AI, 구글 등 주요 AI 기업들과 각각 최대 2억 달러 규모의 계약을 체결했다. 로이터는 앞서 국방부가 오픈AI와 앤스로픽, 등 주요 AI 기업들에 대해 일반 사용자에게 적용하는 표준 제한 없이 자사 도구를 기밀 네트워크에서 사용할 수 있도록 압박해왔다고 보도한 바 있다.
◆ "감시·자율살상무기 금지" 조항 넣었지만…거부권은 없어
계약에는 정부 요청에 따라 구글이 AI 안전 설정과 필터를 조정하는 데 협조해야 한다는 내용도 포함됐다.
또 "AI 시스템은 적절한 인간의 감독과 통제 없이 국내 대규모 감시나 자율살상 무기(목표물 선정 포함)를 위해 의도되지 않았으며 사용돼서도 안 된다"는 문구가 담겼다.
하지만 동시에 합법적인 정부의 작전상 의사결정에 대해 구글이 이를 통제하거나 거부권을 행사할 권리는 없다고 명시됐다. 사실상 군의 판단에 대해 기업이 개입할 수 없다는 의미다.
미 국방부는 도널드 트럼프 대통령 취임 이후 '전쟁부(Department of War)'로 명칭이 바뀐 상태이며, 이번 사안에 대한 직접적인 논평은 거부했다.
구글은 "기밀 및 비기밀 프로젝트 전반에 걸쳐 정부 기관을 지원하고 있다"며 "AI가 적절한 인간의 감독 없이 국내 대규모 감시나 자율무기에 사용돼서는 안 된다는 원칙을 여전히 지지한다"고 밝혔다.
구글 대변인은 로이터에 "구글 인프라를 포함한 상업용 모델에 대한 API 접근을 업계 표준 관행과 조건에 따라 제공하는 것은 국가 안보를 지원하는 책임 있는 접근"이라고 말했다.
◆ 구글 직원들 집단 반발…"우리가 만든 기술로 생명 잃고 있다"
그러나 내부 반발은 거세다.
워싱턴포스트(WP)에 따르면 600명 이상의 구글 직원들이 순다르 피차이 최고경영자(CEO)에게 서한을 보내 국방부가 구글 AI를 기밀 업무에 사용하는 것을 막아달라고 요구했다. 서명자 상당수는 핵심 AI 연구 조직인 딥마인드(DeepMind) 소속이었다.
직원들은 "우리는 AI가 인류에게 이익이 되기를 바라지, 비인도적이거나 극도로 해로운 방식으로 사용되는 것을 원하지 않는다"며 "여기에는 살상용 자율무기와 대규모 감시가 포함되지만, 그보다 더 광범위하다"고 주장했다.
이어 "구글이 이러한 해악과 연관되지 않도록 보장하는 유일한 방법은 모든 기밀 업무를 거부하는 것"이라며 "그렇지 않으면 그런 사용이 우리의 지식 없이, 혹은 이를 막을 힘 없이 발생할 수 있다"고 강조했다.
직원들은 또 "우리가 핵심적으로 구축하고 있는 기술의 오용으로 인해 이미 국내외에서 생명이 희생되고 시민의 자유가 위협받고 있다"고 비판했다.
◆ 앤스로픽 전례에 긴장…"가드레일 거부했다가 계약 박탈"
이번 논란은 경쟁사 앤스로픽 사례와 맞물려 더욱 커지고 있다.
앤스로픽은 인기 챗봇 '클로드(Claude)'를 앞세워 미군 시스템에 빠르게 진입했지만, 자사의 AI가 자율살상 무기와 대규모 감시에 사용되지 않도록 하는 안전장치를 제거하는 것을 거부했다가 지난 2월 국방부의 모든 계약에서 제외됐다.
이후 국방부는 앤스로픽을 '공급망 위험 기업'으로 지정했고, 현재 양측은 계약 중단의 적법성을 두고 법정 공방을 벌이고 있다.
이 여파로 구글과 오픈AI에 대한 관심도 커졌다. 오픈AI는 앤스로픽이 배제된 직후 기밀 업무용 AI 계약을 체결했고, CEO인 샘 올트먼은 자사 기술이 미국 내 대규모 감시나 자율살상 무기에 사용되지 않을 것이라고 주장했다.
구글 역시 2018년 드론 영상 분석용 AI를 제공하던 국방부 계약을 직원 반발로 중단한 바 있다. 이후 "AI를 무기와 감시에 사용하지 않겠다"는 원칙을 발표했지만, 최근 해당 제한을 철회하고 군사 계약 확대에 나서면서 논란이 다시 커지고 있다.
koinwon@newspim.com
