백악관, 안전 우려로 오픈AI에 지피티 5.6 공개 제한 촉구 보도
백악관, 오픈AI에 지피티 5.6 출시 지연 요청
백악관이 안전 우려 때문에 오픈AI에 차기 모델 지피티 5.6의 공개 출시를 연기할 것을 압박하고 있다고 더 인포메이션이 보도했다. 광범위한 출시 대신, 오픈AI는 트럼프 행정부의 검토가 진행되는 동안 소수의 밀접한 파트너들에게만 제한적으로 공개하는 방안을 준비하고 있는 것으로 전해졌다.
이번 주 회의에서 오픈AI의 CEO 샘 알트만은 프리뷰 기간 동안 접근을 "고객별로 승인"할 것이라고 직원들에게 전한 것으로 알려졌다. 롤아웃이 순조롭게 진행되면, 알트만은 회사가 몇 주 후 더 넓은 공개를 따르기를 희망한다고 전했다고 한다.
이 요청은 국가 사이버 국장실과 과학기술정책실에서 나온 것으로 알려졌으며, 두 기관 모두 다가오는 모델에 관해 오픈AI와 긴밀히 협력해 온 것으로 전해졌다. 이 합의는 오픈AI의 이전 공개 출시 방식과 크게 다른 모습을 보이는 것이며, 이미 일부 강력한 시스템에 대해 접근을 제한해온 앤트로픽의 방식과 유사하다.
트럼프 행정부는 처음에는 인공지능에 대해 비개입적 접근을 취하는 것처럼 보였지만, 최근에는 보다 직접적인 감독 쪽으로 움직이고 있다. 이달 초 트럼프는 특정 AI 기업들이 공개 출시 전에 자발적으로 새로운 모델을 정부의 테스트 및 평가에 제출하도록 지시하는 행정명령에 서명했다.
이번 보도된 신중함은 사이버 능력을 갖춘 최첨단 AI 시스템에 대한 우려가 커지고 있음을 반영한다. 생성형 AI 도구들은 이미 악성코드를 작성하는 데 사용되었고, 일부는 랜섬웨어 공격의 일부를 자율적으로 수행할 수 있다. 새로운 최첨단 사이버 모델에 대한 걱정은 이러한 모델들이 이전 시스템보다 훨씬 더 높은 수준으로 소프트웨어 취약점을 식별하고 악용할 수 있게 될 가능성에서 비롯된다.
앤트로픽은 올해 초 파트너 전용 프로그램인 프로젝트 글라스윙을 통해 자사의 최첨단 사이버 모델 클로드 미토스에 대한 접근을 제한하면서 주목을 받았다. 회사 측은 해당 모델이 광범위하게 공개하기에는 너무 강력하다고 밝혔다. 이런 입장은 일부 관측자들의 회의론을 불러일으켰지만, 능력과 오용을 어떻게 균형 맞출지에 대한 더 넓은 논쟁은 더 발전된 모델들이 출시에 다가오면서 더욱 격화되고 있다.
출처: