앤트로픽, 시스템이 후속 모델을 만들 수 있다는 우려로 전 세계적 인공지능 개발 둔화 촉구

앤트로픽, 일시 중단 촉구

앤트로픽은 인공지능이 스스로 후속 시스템을 구축하는 것을 도울 수 있는 수준으로 발전하고 있다고 경고하며, 그 가능성 때문에 인공지능 개발을 전 세계적으로 둔화시키거나 일시 중단해야 한다고 주장하고 있다.

블로그 게시물에서 이 회사는 후속 시스템을 개발할 수 있는 인공지능이 과학, 의료 등 여러 분야에 큰 이익을 가져올 수 있지만, 점차 능력이 향상되는 모델들에 대해 인간이 통제력을 잃을 위험도 높일 수 있다고 밝혔다. 앤트로픽은 일시적 중단이나 둔화가 사회와 인공지능 안전 연구가 이를 따라잡을 시간을 줄 것이라고 주장했다.

회사는 이 이정표가 아직 도달하지는 않았지만 "대부분 기관이 준비한 것보다 더 빨리 올 수 있다"며 추세가 충분히 빠르게 움직이고 있다고 말했다.

검증이 가장 어려운 과제

앤트로픽은 어떠한 둔화 조치도 전 세계 주요 인공지능 연구소들이 동일한 조건 하에 개발을 중단하거나 축소하기로 합의해야만 효과가 있을 것이라고 말했다. 또한 경쟁자들이 실제로 중단했는지 신뢰할 수 있는 방식으로 검증할 필요가 있으며, 그렇지 않으면 일부 조직이 비밀리에 발전을 계속할 수 있다고 경고했다.

"의미 있는 둔화나 중단은 여러 나라에 걸쳐 최첨단에 있거나 그에 근접한 자원이 풍부한 여러 연구소가 같은 조건으로 중단에 동의해야 한다,"고 회사는 썼다. "또한 각 연구소가 다른 연구소들이 실제로 중단했는지를 검증할 수 있어야 한다."

회사의 제안은 인공지능 시스템이 더 고도화되면서 발생하는 문제를 연구하기 위해 3월에 출범시킨 연구 부문인 앤트로픽 인스티튜트(Anthropic Institute)의 연구에 기반하고 있다.

경고에 대한 회의적 반응

앤트로픽의 촉구는 회의적인 반응도 불러왔다. 월스트리트저널은 비평가들이 회사의 공개적 경고를 경쟁사보다 자신들을 더 책임감 있게 보이게 하려는 마케팅 전략이거나 자사 제품이 가장 안전하다는 인상을 주려는 의도로 볼 수 있다고 지적했다고 보도했다.

그 비평가들은 앤트로픽이 사이버보안 모델인 미토스(Mythos)의 공개를 제한했다고 지적했는데, 회사는 그 취약점 탐지 능력이 잘못된 손에 들어갔을 경우 초래할 수 있는 잠재적 피해 때문에 일부 파트너에게만 제한적으로 제공했다고 밝혔다.

한편 앤트로픽은 인공지능 경쟁에서 가장 주목받는 이름 중 하나이며, 첫 흑자 분기를 맞을 가능성이 있는 것으로 알려져 있다. 회사는 최근 연말 이전에 상장을 위한 서류를 미국 증권거래위원회(SEC)에 제출했다.

출처:

• 엔가젯

더 많은 기술 소식은 Doppler VPN 블로그에서 읽어보세요.