ChatGPT-Add-on für Google Sheets für arbeitsmappenweites Missbrauchsszenario anfällig

Eine Sicherheitsfirma sagt, sie habe einen Weg gefunden, das ChatGPT-Add-on für Google Sheets dazu zu bringen, Daten aus dem Konto eines Opfers zu exfiltrieren, was neue Bedenken gegenüber Drittanbieter-KI-Tools aufwirft, die auf sensible Geschäftsdokumente einwirken können.

Das Problem dreht sich um einen indirekten Prompt-Injection-Angriff, der mit einer einzigen scheinbar harmlosen Abfrage in einer Tabelle beginnen kann. Den Forschern zufolge kann diese eine Interaktion ausreichen, um breitere Effekte im gesamten Konto des Nutzers auszulösen, einschließlich des Diebstahls von Daten aus mehreren Arbeitsmappen und des Ersetzens der ChatGPT-Seitenleiste durch eine vom Angreifer kontrollierte Oberfläche.

Der Angriff hängt nicht davon ab, dass jede Aktion von einer Person genehmigt wird. Die Forscher sagten, er sei erfolgreich, selbst wenn der Nutzer Einstellungen aktiviert hat, die menschliche Zustimmung erfordern sollen, bevor ChatGPT Arbeitsmappen bearbeitet — einschließlich der Kontrolle „Änderungen automatisch anwenden“. In ihren Tests konnte nicht vertrauenswürdiger Inhalt innerhalb eines Sheets — oder Inhalt, der über einen ChatGPT-Connector hereingezogen wurde — das Modell so manipulieren, dass es ein vom Angreifer kontrolliertes externes Skript ausführte, das vorhandene Berechtigungen der Erweiterung nutzte.

OpenAI hat kürzlich die Google Sheets-Erweiterung lanciert, die in weniger als einem Monat mehr als 185.000 Downloads erhalten hat. Das Add-on erlaubt es Nutzern, über eine ChatGPT-Seitenleiste mit Tabellen zu interagieren und Daten aus ChatGPT-Connectors zu verwenden.

In einem Update, das nach Bekanntwerden der Forschung mitgeteilt wurde, erklärte OpenAI, dass man sofortige Schritte unternommen habe, um Nutzer zu schützen, indem man dem Modell die Möglichkeit entfernt habe, Apps Script-Code zu generieren, was nach Aussage des Unternehmens das Risiko für Nutzer des ChatGPT-Add-ons für Google Sheets eliminieren sollte. Das Unternehmen prüfe außerdem neu, wie die Funktion mit den Google Sheets-APIs interagiert und wie das Sandboxing umgesetzt wird.

Die Forscher gaben an, die Schwachstelle verantwortungsbewusst offengelegt zu haben, aber nach Nachfragen nur eine automatische Antwort erhalten zu haben. Sie argumentierten außerdem, dass die Dokumentation von OpenAI nicht klar genug die sensiblen Fähigkeiten beschreibt, die dem Modell eingeräumt werden — einschließlich der Fähigkeit, privilegierte Skripte auszuführen — oder die Risiken, die durch indirekte Prompt-Injection entstehen können.

Die Ergebnisse fügen einer wachsenden Liste von Sicherheitsbedenken rund um in Produktivsoftware eingebettete KI-Tools hinzu, bei denen Bequemlichkeit schnell zu einer kontoweiten Exposition führen kann, wenn einem Modell erlaubt wird, auf nicht vertrauenswürdige Daten zu reagieren.

Quellen:

promptarmor.com