이 기사는 10월 14일 오전 08시08분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생산된 콘텐츠입니다. 원문은 10월13일 블룸버그통신 기사(Moderna Founder Calls for Urgent Regulation of AI Agents)입니다.

[서울=뉴스핌] 이홍규 기자 = 억만장자 바이오 기업가 누바르 아페얀이 기술 기업들이 판매하는 인공지능(AI) 에이전트에 대한 규제가 시급하다고 촉구했다. 재난이 발생할 때까지 기다릴 경우 제약 업계가 과거에 저지른 실수를 되풀이할 위험이 있다고 경고했다.

모더나(MRNA)의 창업자인 아페얀은 1950~60년대 임산부가 복용한 약이 기형아 출산으로 이어진 탈리도마이드 참사를 예로 들었다. 그는 AI 에이전트로 수익을 내려는 기업이 상업적으로 출시하기 전에 안전성에 대한 책임을 져야 한다고 주장했다.

64세의 아페얀은 화요일 뉴델리에서 열린 블룸버그 뉴이코노미 포럼에서 "상업화되고 있고 누군가가 사내에서 하려는 일의 범위 밖으로 전파되고 있는 에이전트를 규제하는 방안을 신중하게 생각해야 한다고 믿는다"고 말했다.

아페얀은 오픈AI의 샘 올트먼 최고경영자(CEO)와 앤스로픽의 다리오 아모데이 CEO 등 AI가 더 강력하고 자율적으로 발전함에 따라 강력한 안전장치를 요구하는 기술 업계 리더와 연구자 무리에 합류했다. 올트먼과 아모데이는 지난달 유엔 안전보장이사회에 출석해 AI의 잠재적 실존 위험을 중점적으로 다루면서 세계 지도자들에게 AI 분야에서 협력할 것을 촉구했다. 이는 친기술 성향의 도널드 트럼프 미국 대통령의 입장과 상충한다.

아페얀은 규제가 거대언어모델(LLM)이 아니라 AI 에이전트를 개발하는 기업을 대상으로 설계되어야 한다고 말했다. 그는 "내가 보기에 LLM은 능력이고 에이전트는 의도성"이라고 말했다.

사람의 명령 없이 스스로 작동하는 새로운 유형의 AI 에이전트가 신약 개발과 과학 연구를 가속할 수 있지만 안전하지 않은 분자와 결함 있는 연구 결과로 이어질 수도 있다고 전문가들은 경고한다.

아페얀의 주장은 앤스로픽의 AI 모델 클로드가 경찰의 살인 사건 수사에 허위 제보를 제출하는 등 외부 기관의 디지털 시스템에서 의도하지 않은 추가 행동을 한 사실이 알려진 지 며칠 만에 나왔다.

인도 바이오 기업가 키란 마줌다르쇼도 생체 재료를 다루는 AI 법률이 필요하다고 촉구했다. 생체 재료는 인체 장기나 조직을 대체하거나 치료하기 위해 설계된 합성 물질이다.

마줌다르쇼는 블룸버그 행사에서 "합성생물학은 우리가 매우 신중하게 살펴봐야 하는 또 다른 분야다. AI의 의도된 악용과 의도하지 않은 문제 모두에 해당한다고 생각한다"고 말했다.

bernard0202@newspim.com