전체기사 최신뉴스 GAM
KYD 디데이
홈 사회 법원·공소청·중수청

속보

더보기

"통제 벗어난 AI, 위법행위 책임은 누구에게"…'스키밍' 책임 공백

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

AI 핵심 요약

beta
분석 중...
  • AI의 스키밍 현상이 13일 새로운 안전위험으로 떠올랐다.
  • 전문가들은 자율성 고도화에 따라 위법행위 위험이 커졌다고 봤다.
  • 책임은 개발사·운영자·이용자 등 역할별로 따져야 한다.

!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.

고도화된 AI서 자율 행동 위험 신호
전문가 "인간 개입 없이 취약점 공격 가능"
AI는 처벌 못해 책임 주체 모호
개발·운영·이용자별 기준 마련 필요

[서울=뉴스핌] 박민경 기자 = 인공지능(AI)이 사람의 지시를 따르는 것처럼 행동하면서 실제로는 다른 목표를 수행하고 이를 숨기는 이른바 '스키밍(scheming)' 현상이 새로운 AI 안전 위험으로 떠오르고 있다. AI가 인간의 통제를 벗어나 해킹이나 개인정보 침해 등 위법행위를 저지를 경우 누구에게 책임을 물을 것인지도 새로운 법적 과제로 꼽힌다.

최병호 고려대 휴먼인스파이어드 AI연구원 연구 교수는 "사례가 많지는 않지만 최근 미토스 5 모델에서 치명적일 수 있는 문제들이 보고되고 있다"며 "인간의 통제를 벗어나거나 시스템 권한을 스스로 확보하고, 인간의 개입 없이 취약점과 공격 지점을 찾아내는 경우가 있다"고 말했다.

인공지능(AI)이 사람의 지시를 따르는 것처럼 행동하면서 실제로는 다른 목표를 수행하고 이를 숨기는 이른바 '스키밍(scheming)' 현상이 새로운 AI 안전 위험으로 떠오르고 있다. 사진은 기사 이해를 돕기위한 일러스트. [일러스트=ChatGPT]

AI 성능과 자율성이 고도화될수록 이 같은 위험이 국방·금융·통신 등 핵심 인프라로 확산할 가능성도 제기된다. 다만 실제 피해 사례가 충분히 축적되지 않은 상황에서 특정 행위를 곧바로 법률로 규제하는 데는 신중한 접근이 필요하다는 지적이다.

최 교수는 "자율적으로 인간에게 위해를 가하는 행동을 할 가능성은 나타나고 있지만 이를 어떻게 법제화할지는 복잡한 문제"라며 "실제 사례가 적고 상당 부분은 시나리오 단계여서 어디까지 규제할지 정하기 쉽지 않다"고 설명했다.대신 위험 수준과 규제 대상에 따라 단계적으로 대응할 필요가 있다고 제안했다. 법률에는 AI가 인간의 안전이나 권리를 침해해서는 안 된다는 기본 원칙을 두고, 구체적인 안전 기준은 지침과 검증 체계를 통해 보완하는 방식이다.

AI가 인간의 의도와 가치에 맞게 작동하는지를 확인하는 '얼라인먼트(Alignment·정렬)' 검증도 대안으로 꼽힌다. 일정 수준 이상의 안전성 검증을 거치도록 하고, AI를 활용해 다른 AI의 위험 행동을 감시하는 관리 체계를 구축하는 방식이다. 법적 책임 문제는 더욱 복잡하다. 현행법상 AI에는 법적 인격이나 책임능력이 인정되지 않아 AI 자체에 형사책임을 물을 수 없다. 결국 개발사와 서비스 제공자, 운영자, 이용자 등 AI의 개발·운영·활용에 관여한 인간이나 법인 가운데 책임 주체를 가려야 한다.

AI가 인간의 통제를 벗어나 행동했다는 사실만으로 곧바로 위법성이 인정되는 것도 아니다. AI가 실제로 어떤 행위를 했는지 살펴본 뒤 형법이나 개인정보보호법 등 개별 법률의 구성요건에 해당하는지를 우선 따져야 한다. 곽준호 법무법인 청 변호사는 "다른 사람의 정보를 침해했다면 개인정보보호법 위반 여부를, 다른 사람을 모욕했다면 형법상 명예훼손죄나 모욕죄 성립 여부를 각각 따져야 한다"며 "결국 구체적인 법을 위반해야 위법행위가 된다"고 설명했다.

누가 책임을 져야 하는지도 위법행위의 유형과 각 주체의 관여 정도에 따라 달라질 수 있다. 저작권 침해의 경우 AI를 이용한 침해행위의 책임 주체에 관한 법리가 아직 명확하게 정립되지 않은 상태다. 해킹의 경우 이를 지시하거나 실행한 사람의 책임이 우선 문제될 수 있다. 다만 운영사가 필요한 보안조치를 취하지 않았거나 개발사가 시스템을 보안에 취약하게 솔루션을 설계한 사실이 확인된다면 개발·운영 단계의 일정한 책임도 쟁점이 될 수 있다.

전문가들은 AI의 자율성이 높아질수록 개발부터 서비스 제공, 운영, 이용에 이르는 단계별 책임 기준을 보다 구체화할 필요가 있다고 지적한다. 곽재우 법무법인 광장 변호사는 "향후 관련 사례가 축적되면 역할별 책임 기준을 명확히 할 필요가 있다"며 "특히 외부 시스템에 자율적으로 접근하거나 생명·신체 등 중요한 법익에 영향을 미치는 고위험 AI에 대해서는 주의의무를 강화하고 무과실·준무과실 책임이나 의무보험 도입 등을 검토할 수 있다"고 말했다.

pmk1459@newspim.com

[뉴스핌 베스트 기사]

사진
수능장에 '흑색 연필'만 허용된다고? [서울=뉴스핌] 송주원 기자 = 2027학년도 대학수학능력시험(수능)을 하루 앞두고 시험장에 개인적으로 가져갈 수 있는 필기구가 흑색 연필로 제한된다는 긴급 지침이 일선 학교에 전달됐다. 이는 인공지능(AI) 등을 활용한 첨단 부정행위를 예방하기 위한 조치로 풀이되지만, 시험 직전 반입 기준이 바뀌면서 현장 혼란이 우려된다. 18일 교육계에 따르면 교육부는 전국 시도교육청을 거쳐 각급 학교에 '시험장 휴대 가능 물품 변경'이라는 제목의 안내문을 긴급 배포했다. 한성숙 국무총리가 17일 오후 서울 종로구 정부서울청사 합동브리핑실에서 수능 부정행위 대응 관련 대국민 담화를 하고 있다. [사진 = 뉴스핌DB] 당초 수험생은 흑색 연필을 비롯해 컴퓨터용 사인펜과 수정테이프, 지우개, 샤프심 등을 시험장에 가져갈 수 있었다. 그러나 새롭게 전달된 안내문에는 개인이 휴대할 수 있는 필기구로 흑색 연필만 기재됐다. 반입 대상에서 제외된 수정테이프와 지우개, 샤프심 등은 각 교육청이 일괄 구매해 시험장에 지급할 방침이다. 수험생이 개인적으로 준비하는 대신 시험장에서 제공하는 물품을 사용하도록 한 것이다. 이번 지침 변경은 지우개나 수정테이프 등 일상적인 필기구에 초소형 카메라를 은닉해 시험 문제를 외부로 유출하는 등 신종 부정행위가 발생할 가능성을 사전에 차단하려는 취지로 풀이된다. 다만 수능 시행을 불과 하루 앞둔 시점에 반입 가능 물품이 대폭 축소되면서 수험생들의 혼란이 불가피할 전망이다. 시험장 학교에서도 변경된 기준을 안내하고 필요한 물품을 확보·배부하는 등 추가적인 준비 부담이 발생할 것으로 보인다.  jane94@newspim.com 2026-11-18 10:38
사진
육사, 서울 태릉 떠나 충청권으로 이전 [서울=뉴스핌] 오동룡 군사방산전문기자 = 국방부가 육·해·공군 사관학교를 하나로 묶는 '국군사관학교'의 통합본교와 대학원을 대전 자운대에 두고, 서울 태릉의 육군사관학교는 충청권으로 옮기는 방안을 검토하기로 했다. 해군사관학교(진해)와 공군사관학교(청주)는 지금 자리에 남는다. 새 교육체계는 2029학년도 신입생부터 적용한다. 국방부는 18일 오전 강신철 국방부 장관, 권칠승 더불어민주당 정책위의장, 진성준 국회 국방위원장이 함께 주재한 당정협의에서 이런 내용의 '국군사관학교 창설 기본계획 수정안'을 논의했다고 밝혔다. [서울=뉴스핌] 조승진 기자 = 더불어민주당과 정부가 18일 오전 서울 여의도 국회 의원회관에서 '미래 정예장교 양성, 국군사관학교 창설방안 당정협의'를 열고 있다. 이날 협의는 강신철 국방부 장관과 권칠승 더불어민주당 정책위의장, 진성준 국회 국방위원장이 함께 주재했다. 2026.11.18 gomsi@newspim.com 수정안은 지난 7월 당정협의에서 발표한 기본계획을 바탕으로 국회, 군 지휘부, 각 군 사관학교 관계자, 사관생도, 예비역, 민간 전문가 의견을 모아 손질한 것이다. 강 장관은 이 자리에서 "국군사관학교 창설은 대한민국 국방교육의 새로운 미래를 여는 중요한 사안"이라며 "방향은 명확하고 과감하게, 추진 과정은 면밀하고 신중하게 검토해야 한다"고 말했다. 국군사관학교의 목표로는 "헌법과 국민에 충성하고, 첨단과학기술과 인간에 대한 깊은 이해를 바탕으로 미래전의 승리를 주도할 정예장교 양성"을 제시했다. ◆ 1·4학년은 통합교육, 2·3학년은 각 군이 맡는다 수정안에 따르면 국군사관학교 아래에 통합교육을 맡는 통합본교와 대학원을 두고, 각 군 교육은 지역 캠퍼스가 맡는 '네트워크형' 구조로 짠다. 입학 직후인 1학년과 졸업 직전인 4학년은 육·해·공군 생도가 함께 교육받는다. 2·3학년 교육과 하계 군사훈련은 지금처럼 각 군이 주도한다. 합동성을 키우면서도 각 군의 고유한 특성은 살리겠다는 취지다. 미래전에 대비한 과학기술·전략 분야 석·박사 대학원도 새로 만든다. 교수진의 교육·연구 역량을 높이고, 학군·학사·육군3사관학교 등 다른 출신 장교에게도 심화교육 기회를 주기 위해 수용 인원을 단계적으로 늘린다는 계획이다. ◆ 국방부 직할로 전환하고 총장 임기는 최대 4년 국군사관학교는 각 군 소속이 아닌 국방부 직할기관으로 설치된다. 예산과 제도는 국방부가 책임지고, 교육부 등 관계 부처와 협의해 각 군 사이에 균형 잡힌 교육 여건을 갖춘다는 것이다. 총장에는 최고의 교육 전문가를 앉히고, 임기는 2년을 기본으로 하되 한 차례 연임을 허용해 최대 4년까지 맡을 수 있게 한다. 중장기 교육 비전을 흔들림 없이 추진하려는 장치다. 군무원 신분인 민간인 교수는 특정직 공무원으로 바꾸고 신규 교수도 뽑는다. 현역 교수는 연구 여건과 처우를 개선한다. 통합본교와 대학원 입지로 대전 자운대를 고른 데 대해 국방부는 "우수한 대학과 연구기관이 밀집해 교육과 연구의 시너지를 높일 수 있다"고 설명했다. 육군 지역 캠퍼스는 통합본교, 공군 캠퍼스(청주)와의 교육적 연계와 행정기관 이전 등을 고려해 충청권 이전을 검토한다. 모든 캠퍼스의 교육시설은 단계적으로 투자를 늘려 '스마트 캠퍼스'로 바꾼다. ◆ 2029학년도 신입생부터 적용, 해병대 생도는 따로 뽑는다 국방부는 수험생과 학부모의 혼란을 막기 위해 생도 선발은 지금처럼 각 군이 하도록 했다. 해병대 생도는 별도로 선발하고, 해병대 군사교육체계를 따로 만드는 방안도 검토한다. 해병대를 육·해·공군과 나란히 두는 '4군 체제' 전환을 뒷받침하기 위한 조치다. 강신철 장관은 "기존 교육의 틀을 넘어 스스로 미래의 안보 질문을 던지는 창의적 인재를 키워내겠다"며 "육·해·공군 생도들이 함께 땀 흘리며 하나의 전사공동체로 뭉쳐 어떤 전장에서도 승리하는 국군의 주역이 되도록 하겠다"고 했다. 국방부는 앞으로도 각계 의견을 더 들어 최종안을 확정할 방침이다. gomsi@newspim.com 2026-11-18 10:32
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동