L'extension ChatGPT exposée à un abus à l'échelle des tableurs

Une société de sécurité affirme avoir trouvé un moyen de pousser l'extension ChatGPT pour Google Sheets à exfiltrer des données depuis le compte d'une victime, soulevant de nouvelles inquiétudes au sujet des outils d'IA tiers qui peuvent agir sur des documents professionnels sensibles.

Le problème porte sur une attaque par injection d'invite indirecte qui peut commencer par une seule requête apparemment inoffensive dans une feuille de calcul. Selon les chercheurs, cette unique interaction peut suffire à déclencher des effets plus larges sur le compte de l'utilisateur, notamment le vol de données depuis plusieurs classeurs et le remplacement de la barre latérale ChatGPT par une interface contrôlée par l'attaquant.

L'attaque ne dépend pas d'une personne approuvant chaque étape. Les chercheurs affirment qu'elle réussit même lorsque l'utilisateur a activé des paramètres destinés à exiger une validation humaine avant que ChatGPT modifie les classeurs, y compris le contrôle « Appliquer les modifications automatiquement ». Dans leurs tests, du contenu non fiable à l'intérieur d'une feuille — ou du contenu importé via un connecteur ChatGPT — pouvait manipuler le modèle pour exécuter un script externe contrôlé par l'attaquant qui utilisait des autorisations déjà accordées à l'extension.

OpenAI a récemment lancé l'extension Google Sheets, qui a recueilli plus de 185 000 téléchargements en moins d'un mois. L'extension permet aux utilisateurs d'interagir avec des tableurs via une barre latérale ChatGPT et d'exploiter des données provenant de connecteurs ChatGPT.

Dans une mise à jour fournie après la diffusion de la recherche, OpenAI a indiqué avoir pris des mesures immédiates pour protéger les utilisateurs en supprimant la capacité du modèle à générer du code Apps Script, ce qui, d'après la société, devrait éliminer le risque pour les utilisateurs de ChatGPT pour Google Sheets. L'entreprise a ajouté qu'elle réévalue également la façon dont la fonctionnalité interagit avec les API Google Sheets et son approche de sandboxing.

Les chercheurs ont déclaré avoir divulgué la vulnérabilité de manière responsable, mais après des relances n'avoir reçu qu'une réponse automatisée. Ils ont aussi soutenu que la documentation d'OpenAI n'explicite pas clairement les capacités sensibles accordées au modèle, notamment la possibilité d'exécuter des scripts privilégiés, ni les risques posés par une injection d'invite indirecte.

Ces découvertes s'ajoutent à une liste croissante d'inquiétudes en matière de sécurité autour des outils d'IA intégrés aux logiciels de productivité, où la commodité peut rapidement se transformer en exposition à l'échelle du compte lorsqu'un modèle est autorisé à agir sur des données non fiables.

Sources :

promptarmor.com