미국, 탈옥 우려로 앤스로픽의 클로드 페이블 5 및 클로드 미토스 5 접근 차단 명령
정부의 개입이 앤스로픽의 최신 모델을 강타하다
미국 정부는 잠재적 탈옥 문제와 연관된 국가 안보 우려를 이유로 앤스로픽에게 자사의 가장 진보된 AI 시스템 두 가지인 클로드 페이블 5와 클로드 미토스 5에 대한 접근을 즉시 중단하라고 명령했다.
앤스로픽은 금요일 동부 시간으로 오후 5시 21분에 지시를 받았고 따랐다고 밝혔지만, 정부가 "이번에는 잘못 판단했다"고도 주장했다. 회사는 이 명령이 수출 통제 조치로 포장되었음에도 불구하고 외국인에게만 국한된 것이 아니라 전 세계적으로 두 모델에 대한 접근을 비활성화하도록 강제한다고 말했다.
이 조치는 앤스로픽에게 민감한 시점에 떨어졌다. 미토스 5는 회사의 가장 능력 있는 모델로 알려져 있으며, 소프트웨어의 보안 취약점을 찾아내는 능력 때문에 엄격한 제한 아래 관리되어 왔다. 앤스로픽은 이 모델을 주요 운영체제와 브라우저 전반에서 테스트해 각기 취약점을 발견했다고 밝혔다. 광범위하게 공개하기보다는, 회사는 이를 Project Glasswing이라는 통제된 프로그램을 통해 제한적으로 제공했으며 약 50개의 검증된 기관이 참여했고 여기에는 아마존, Apple, Google, 마이크로소프트, 크라우드스트라이크 등이 포함되어 있었다.
클로드 페이블 5는 단 3일 전에 공개된 모델로, 미토스 5의 대중용 버전이었다. 회사는 사이버보안이나 생물학처럼 위험도가 높은 주제를 차단하는 보호장치를 설계해 일반 공개에 적합하다고 믿었다고 밝혔다. 또한 Vals 에이아이의 벤치마크 테스트에서 이미 공개 영역에서 최고 수준에 올랐다고 전해졌다.
앤스로픽은 정부의 우려가 클로드 페이블 5의 탈옥 사례 주장에 집중된 것으로 보인다고 말했다. 회사에 따르면, 정부는 모델이 코드베이스를 검사하고 소프트웨어 결함을 식별하도록 만드는 프롬프트와 관련한 "잠재적이고 좁은 범위의, 보편적이지 않은 탈옥"에 대한 구두 증거만 제공했다고 한다. 앤스로픽은 이러한 능력은 오픈에이아이의 GPT-5.5를 포함해 다른 공개 모델들에도 이미 존재하며, 방어적 사이버보안 업무에 일상적으로 사용된다고 주장했다.
또한 회사는 가장 강력한 보호장치들이 모델 자체와 별개의 독립적인 분류기 시스템에 의존한다고 주장했으며, 따라서 탈옥이 반드시 위험한 출력에 대한 근본적인 보호를 무력화시키지는 않을 것이라고 덧붙였다.
그럼에도 불구하고 정부의 명령은 첨단 AI가 얼마나 빠르게 국가 안보 문제로 부상하고 있는지 — 그리고 규제 당국이 모델이 어떤 임계값을 넘었다고 판단할 때 개입할 의지가 얼마나 커졌는지를 선명하게 보여준다.
출처: