OpenAI déploie Lockdown Mode pour réduire les risques d'injection de prompt dans ChatGPT
OpenAI ajoute un mode ChatGPT plus strict pour le travail sensible
OpenAI a introduit un nouveau « Lockdown Mode » pour ChatGPT, une fonctionnalité conçue pour réduire le risque d'attaques par injection de prompt, où des instructions malveillantes sont cachées à l'intérieur de pages web, de documents ou d'autres sources de contenu.
La société a indiqué que le mode vise les personnes et organisations traitant des données sensibles et souhaitant une protection renforcée contre les risques d'exfiltration de données. Il n'est pas destiné à tout le monde, a précisé OpenAI, mais aux utilisateurs qui ont besoin de contrôles plus stricts sur ce à quoi ChatGPT peut accéder et comment il répond.
Lockdown Mode désactive plusieurs fonctionnalités qui peuvent élargir la surface d'attaque. Les utilisateurs ne pourront pas utiliser la navigation web en direct, ce qui signifie que ChatGPT ne peut accéder qu'au contenu mis en cache. Le mode désactive également la récupération et l'affichage d'images depuis le web, bien que la génération d'images continue de fonctionner. De plus, la recherche approfondie et le mode agent sont désactivés.
OpenAI a mis en garde que ce paramètre n'est pas une solution complète. Même avec Lockdown Mode activé, ChatGPT peut toujours être vulnérable aux injections de prompt qui apparaissent dans le contenu web mis en cache ou les fichiers téléchargés, et celles-ci pourraient encore influencer la précision ou le comportement d'une réponse. L'objectif de la société, a-t-elle déclaré, est de réduire la probabilité que des informations sensibles soient exposées lors de ces interactions.
Le déploiement commence avec les comptes ChatGPT Business en libre-service, ainsi que les comptes personnels éligibles.
L'injection de prompt est devenue une préoccupation croissante pour les systèmes d'IA qui lisent des informations depuis le web et d'autres sources externes, car des instructions cachées peuvent altérer le comportement du modèle sans être évidentes pour l'utilisateur. Le nouveau mode d'OpenAI est une réponse directe à ce risque, en restreignant les outils disponibles pour ChatGPT lorsque les utilisateurs veulent un environnement plus contrôlé.
Sources:
Lisez plus d'actualités tech sur le [Doppler VPN Blog].