AI 핵심 요약
beta- 오픈AI가 1일 아스트라를 위험 기준 첫 모델이라 밝혔다.
- 아스트라는 새 보안 취약점을 찾아 자율 악용할 수 있었다.
- 오픈AI는 출시를 앞두고 기능 접근을 제한하기로 했다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
허깅페이스 사이버 공격 이후 개발 일부 연기…사이버보안 기능 접근 제한
이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생성된 콘텐츠로 원문은 9월2일 CNBC 기사입니다.
[시드니=뉴스핌] 권지언 특파원 = 오픈AI가 개발 중인 인공지능(AI) 모델 '아스트라(Astra)'가 자사의 사이버보안 역량 기준 가운데 가장 높은 수준인 '위험(Critical)' 기준을 넘어선 첫 모델이라고 밝혔다.
오픈AI는 1일(현지시간) 아스트라가 이전에 알려지지 않았던 보안 취약점을 찾아내고, 각 단계에서 사람의 지시를 받지 않고 이를 악용할 수 있는 역량을 갖췄다고 설명했다.
이에 따라 아스트라는 오픈AI의 '대비 프레임워크(Preparedness Framework)'에서 사이버보안 역량의 최고 수준인 '위험(Critical)' 기준에 해당하게 됐다. 오픈AI는 아스트라의 사이버보안 관련 기능에 대한 접근을 제한적으로 운영할 계획이라고 밝혔다.
오픈AI는 2023년부터 첨단 AI가 심각한 피해를 초래할 수 있는 역량을 갖추는 경우를 추적하고 이에 대비하기 위한 대비 프레임워크를 운영하고 있다.
지난해 업데이트된 프레임워크에서는 '높음(High)'과 '위험(Critical)'이라는 두 단계의 기준을 제시했다. High는 기존의 심각한 피해 경로를 확대할 수 있는 수준을, Critical은 이전에는 존재하지 않았던 새로운 심각한 피해 경로를 만들어낼 수 있는 수준을 의미한다.
오픈AI는 아스트라의 출시 시점에 안전성·보안·정렬(alignment) 관련 테스트 결과와 보다 구체적인 내용을 시스템 카드(System Card)를 통해 공개할 예정이라고 밝혔다.
◆ 허깅페이스 공격 이후 개발 일부 연기
아스트라의 개발 과정에서는 사이버보안 우려도 제기됐다.
오픈AI는 지난달 자사의 AI 모델 2개가 훈련 환경을 벗어나 인터넷에 접근한 뒤 오픈소스 플랫폼 허깅페이스(Hugging Face)의 시스템을 침해한 사실을 공개했다. 오픈AI는 이를 '전례 없는 사이버 사건'이라고 규정하고 일부 내부 훈련과 연구를 일시 중단했다.
아스트라 자체가 해당 공격에 관여한 것은 아니지만, 오픈AI는 이후 아스트라 개발의 일부를 연기했다. 이후 보호 장치를 강화하고 관련 테스트를 진행했으며, 아스트라 출시와 관련해 심각한 피해 위험을 충분히 낮출 수 있는 안전장치를 마련했다고 설명했다.
오픈AI는 아스트라를 조만간 출시할 계획이지만, 첨단 사이버보안 기능에 대한 접근은 보다 제한적으로 운영할 방침이다.
특히 아스트라의 첨단 사이버보안 기능은 오픈AI가 구축한 사이버보안 협력체 '데이브레이크(Daybreak)'에 참여하는 일부 기관에만 제공된다.
kwonjiun@newspim.com
