オープンエーアイ、チャットジーピーティーのプロンプトインジェクションリスクを抑えるロックダウンモードを展開
オープンエーアイが機密作業向けにより厳格なチャットジーピーティーモードを追加
オープンエーアイは、新しい「ロックダウンモード」をチャットジーピーティーに導入しました。これは、ウェブページや文書、その他のコンテンツソース内に悪意のある指示が隠されるプロンプトインジェクション攻撃のリスクを低減することを目的とした機能です。
同社によれば、このモードは機密データを扱い、データ流出リスクに対してより強力な保護を求める個人や組織を対象としています。すべての利用者向けではなく、チャットジーピーティーがアクセスできるものや応答の方法に対してより厳格な制御を必要とするユーザー向けだとオープンエーアイは説明しています。
ロックダウンモードは攻撃対象を広げうるいくつかの機能を無効化します。ユーザーはライブウェブ閲覧を利用できなくなり、チャットジーピーティーはキャッシュ済みのコンテンツにのみアクセスできます。このモードではウェブから画像を取得して表示する機能もオフになりますが、画像生成は引き続き動作します。加えて、詳細な調査機能およびエージェントモードも無効化されます。
オープンエーアイは、この設定が完全な解決策ではないと注意を促しています。ロックダウンモードを有効にしていても、キャッシュされたウェブコンテンツやアップロードされたファイルに含まれるプロンプトインジェクションに対して脆弱であり、そうした指示が応答の正確性や挙動に影響を与える可能性があるとしています。同社の目標は、そうしたやり取りの間に機密情報が露出する可能性を低くすることだと述べています。
展開はまずセルフサービスのチャットジーピーティーのビジネスアカウントと、対象の個人アカウントから開始されます。
プロンプトインジェクションは、ウェブやその他外部ソースを参照するAIシステムにとって増大する懸念事項となっています。というのも、隠れた指示がモデルの挙動をユーザーにとって明白でない形で変えてしまうからです。オープンエーアイの新モードは、そのリスクに対する直接的な対応であり、より管理された環境を必要とするユーザーに対してチャットジーピーティーが利用できるツールを絞ります。
情報源：
詳しいテックニュースはDoppler VPN Blogでお読みください。