ホワイトハウスが安全性の懸念でオープンAIにジーピーティー5.6の公開制限を要請と報道
ホワイトハウスがオープンAIにジーピーティー5.6の段階的公開を要請
ホワイトハウスは、次期モデルであるジーピーティー5.6の一般公開を安全性の懸念から遅らせるようオープンAIに圧力をかけているとThe Informationが報じています。広範な公開の代わりに、オープンAIは同モデルがトランプ政権の審査を受ける間、限られたごく少数の親しいパートナーへの限定リリースを準備しているとされています。
今週の会合で、オープンAIのCEOであるサム・アルトマンは、プレビュー期間中は「顧客ごとに承認する」方式でアクセスを提供するとスタッフに伝えたと報じられています。展開が順調に進めば、アルトマンは数週間後により広い公開を目指す希望を示したとされています。
この要請は、国家サイバー監督官室と科学技術政策局から出されたと報じられており、両者は次期モデルについてオープンAIと密接に連携してきたとされています。この取り決めは、オープンAIがこれまで実施してきた公開ローンチからの大きな転換を意味し、アンソロピックが既に最も強力なシステムのいくつかで採用しているような限定アクセスの形態と類似しています。
当初は人工知能に対してサ hands-offの姿勢をとるとされていたトランプ政権ですが、最近ではより直接的な監督に向かう動きを見せています。今月初め、トランプ氏は大統領令に署名し、特定のAI企業に対して新しいモデルを公表前に自発的に政府の試験と評価に提出するよう促す指示を出しました。
今回の慎重な対応の背景には、サイバー能力を備えた最先端AIシステムに対する懸念の高まりがあります。生成AIツールは既にマルウェアの作成に使われており、中にはランサムウェア攻撃の一部を自律的に実行できるものもあります。新しい最先端のサイバーモデルに関する懸念は、これらが以前のシステムよりもはるかに高いレベルでソフトウェアの脆弱性を発見・悪用できる可能性がある点にあります。
アンソロピックは今年初め、最先端サイバーモデルのクロード・ミュトスへのアクセスをパートナー限定プログラム「プロジェクト・グラスウィング」を通じて制限した際に注目を集めました。同社はモデルが広く公開するには強力すぎると述べていました。この姿勢には懐疑的な見方も出ましたが、能力と悪用のバランスをどう取るかというより広範な議論は、より高度なモデルの公開が近づくにつれて一層激化しています。
情報源：