OpenAI führt Lockdown-Modus ein, um Prompt-Injection-Risiken in ChatGPT einzudämmen
OpenAI führt einen strengeren ChatGPT-Modus für sensible Arbeiten ein
OpenAI hat einen neuen „Lockdown-Modus“ für ChatGPT eingeführt, eine Funktion, die entwickelt wurde, um das Risiko von Prompt-Injection-Angriffen zu verringern, bei denen bösartige Anweisungen in Webseiten, Dokumente oder anderen Inhaltsquellen versteckt sind.
Das Unternehmen erklärte, der Modus richte sich an Personen und Organisationen, die mit sensiblen Daten arbeiten und stärkeren Schutz gegen Risiken der Datenexfiltration wünschen. Er sei nicht für alle gedacht, sagte OpenAI, sondern für Nutzer, die engere Kontrollen darüber benötigen, auf was ChatGPT zugreifen kann und wie es reagiert.
Der Lockdown-Modus deaktiviert mehrere Funktionen, die die Angriffsfläche vergrößern können. Nutzer können kein Live-Web-Browsing verwenden, das heißt ChatGPT kann nur auf zwischengespeicherte Inhalte zugreifen. Der Modus schaltet außerdem den Abruf und die Anzeige von Bildern aus dem Web ab, obwohl die Bildgenerierung weiterhin funktioniert. Zusätzlich werden tiefgehende Recherche und der Agentenmodus deaktiviert.
OpenAI warnte, dass die Einstellung keine vollständige Lösung darstellt. Selbst mit aktiviertem Lockdown-Modus kann ChatGPT weiterhin anfällig für Prompt-Injection-Angriffe sein, die in zwischengespeicherten Webinhalten oder hochgeladenen Dateien erscheinen, und diese könnten die Genauigkeit oder das Verhalten einer Antwort beeinflussen. Das Ziel des Unternehmens sei es, es weniger wahrscheinlich zu machen, dass sensible Informationen bei diesen Interaktionen offengelegt werden.
Die Einführung beginnt mit Self-Service ChatGPT Business-Konten sowie mit berechtigten persönlichen Konten.
Prompt-Injection ist zu einem wachsenden Problem für KI-Systeme geworden, die aus dem Web und anderen externen Quellen lesen, weil versteckte Anweisungen das Verhalten eines Modells verändern können, ohne für den Nutzer offensichtlich zu sein. OpenAIs neuer Modus ist eine direkte Reaktion auf dieses Risiko und schränkt die für ChatGPT verfügbaren Werkzeuge ein, wenn Nutzer eine kontrolliertere Umgebung wünschen.
Quellen:
Lesen Sie mehr Technik-News im Doppler VPN Blog.