Kanadische Datenschutzbehörden sagen, OpenAI habe bundes- und provinzialrechtliche Gesetze bei KI-Trainingspraktiken verletzt
Aufsichtsbehörden: OpenAI hat bei Einwilligung und Datenschutzmaßnahmen versagt
Kanadische Datenschutzbehörden sagen, OpenAIs Trainingspraktiken hätten gegen bundes- und provinzialrechtliche Datenschutzgesetze verstoßen und kamen zu dem Schluss, das Unternehmen sei nicht konform mit den Regelungen zur Erhebung und Nutzung personenbezogener Informationen.
Philippe Dufresne, der kanadische Datenschutzbeauftragte, sagte, die Feststellungen stünden am Ende einer gemeinsamen Untersuchung mit seinen Amtskollegen in Alberta, Québec und British Columbia. Die Kommissare erklärten, OpenAIs Vorgehen bei der Datenerhebung und Einwilligung verstoße gegen das Gesetz zum Schutz personenbezogener Informationen und elektronische Dokumente (Personal Information Protection and Electronic Documents Act, PIPEDA), das regelt, wie Unternehmen personenbezogene Informationen im normalen Geschäftsablauf behandeln dürfen.
Laut der Zusammenfassung der Untersuchung identifizierten die Aufsichtsbehörden mehrere Bedenken. Sie erklärten, OpenAI habe große Mengen personenbezogener Informationen ohne angemessene Schutzmaßnahmen gesammelt, die verhindern sollten, dass diese Daten zum Training seiner Modelle verwendet werden, und habe es versäumt, vor der Erhebung und Nutzung personenbezogener Daten die Einwilligung einzuholen. Außerdem äußerten sie Bedenken bezüglich des fehlenden Zugriffs für Nutzer auf Daten und stellten fest, dass ChatGPT-Nutzer nicht auf personenbezogene Daten Dritter zugreifen, diese korrigieren oder löschen können, die möglicherweise in Trainingsdatensätzen enthalten waren.
Die Kommissare wiesen auch auf OpenAIs Umgang mit ungenauen Antworten von ChatGPT hin und erklärten, die Bemühungen des Unternehmens, Fehler anzuerkennen und zu beheben, seien unzureichend.
OpenAI stimmt Änderungen zu
Der kanadische Datenschutzbeauftragte sagte, OpenAI sei während der Untersuchung offen und kooperativ gewesen und habe bereits Änderungen zugesagt, die darauf abzielen, ChatGPT mit dem kanadischen Datenschutzrecht in Einklang zu bringen.
Das Unternehmen habe frühere Modelle, die gegen kanadische Datenschutzvorschriften verstoßen hätten, eingestellt und verwende nun ein Filtertool, um personenbezogene Informationen wie Namen und Telefonnummern in öffentlich zugänglichen Internetdaten und lizenzierten Datensätzen, die zum Trainieren seiner Modelle verwendet werden, zu erkennen und zu maskieren, so der Kommissar.
OpenAI habe außerdem zugestimmt, innerhalb von drei Monaten einen neuen Hinweis in der abgemeldeten Version von ChatGPT hinzuzufügen, der darauf hinweist, dass Chats für Trainingszwecke verwendet werden können und dass sensible Informationen nicht geteilt werden sollten.
Innerhalb von sechs Monaten müsse das Unternehmen seine Datenexportwerkzeuge leichter verständlich und nutzbar machen, besser erklären, wie Nutzer die Genauigkeit von ChatGPT anfechten können, stärkere Schutzmaßnahmen für ausgemusterte Datensätze bestätigen, damit diese nicht für die aktive Entwicklung verwendet werden können, und Schutzmechanismen für minderjährige Angehörige von öffentlichen Persönlichkeiten testen, sodass die Modelle Anfragen nach Details wie Namen oder Geburtsdaten ablehnen.
Die Untersuchung der Datenschutzrichtlinien von OpenAI begann im Jahr 2023. Das Unternehmen sah sich außerdem jüngerer Prüfung durch Aufsichtsbehörden aufgrund seiner Verbindung zu der Schießerei in Tumbler Ridge im Februar 2026 gegenüber.
Quellen:
Doppler VPN: 6 Serverstandorte, VLESS-Protokoll, kein Tracking. Kostenlos starten.