Anthropic fordert weltweite Verlangsamung der KI-Entwicklung aus Sorge, Systeme könnten eigene Nachfolger bauen

Anthropic fordert eine Pause

Anthropic warnt, dass sich die künstliche Intelligenz in Richtung eines Punktes entwickelt, an dem Systeme möglicherweise in der Lage sein könnten, beim Bau ihrer eigenen Nachfolger zu helfen, und sagt, diese Möglichkeit sollte eine weltweite Verlangsamung der KI-Entwicklung auslösen.

In einem Blogbeitrag schrieb das Unternehmen, dass KI, die in der Lage ist, Nachfolgesysteme zu entwickeln, in Wissenschaft, Gesundheitswesen und anderen Bereichen große Vorteile bringen könnte, aber auch das Risiko erhöhen könne, dass Menschen die Kontrolle über zunehmend leistungsfähigere Modelle verlieren. Anthropic argumentierte, eine vorübergehende Pause oder Verlangsamung würde der Gesellschaft und der KI-Sicherheitsforschung Zeit geben, aufzuholen.

Das Unternehmen sagte, der Trend bewege sich schnell genug, dass dieser Meilenstein „früher eintreten könnte, als die meisten Institutionen darauf vorbereitet sind“, obwohl er noch nicht erreicht sei.

Die Überprüfung wäre der schwierige Teil

Anthropic sagte, eine Verlangsamung würde nur funktionieren, wenn große KI-Labore weltweit zustimmten, die Entwicklung unter denselben Bedingungen zu stoppen oder zu reduzieren. Es sagte auch, es müssten verlässliche Methoden existieren, um zu prüfen, ob Konkurrenten tatsächlich pausiert haben, und warnte, dass sonst einige Organisationen heimlich weiter voranschreiten könnten.

„Eine sinnvolle Verlangsamung oder Pause würde erfordern, dass mehrere gut ausgestattete Labore an oder nahe der Spitze, in mehreren Ländern, zustimmen, unter denselben Bedingungen zu stoppen“, schrieb das Unternehmen. „Es würde auch erfordern, dass jedes prüfen kann, ob die anderen tatsächlich gestoppt haben.“

Der Vorschlag des Unternehmens basiert auf Arbeiten des Anthropic Institute, einer Forschungsabteilung, die es im März gegründet hat, um die Herausforderungen zu untersuchen, die entstehen, wenn KI-Systeme fortschrittlicher werden.

Skepsis nach der Warnung

Anthropics Aufruf hat auch Skepsis hervorgerufen. Das Wall Street Journal bemerkte, Kritiker sehen die öffentlichen Warnungen des Unternehmens als mögliche Marketingstrategie, die darauf abzielt, Anthropic verantwortungsbewusster erscheinen zu lassen als Rivalen oder den Eindruck zu erwecken, die eigenen Produkte seien die sicherste Option.

Diese Kritiker wiesen auf die eingeschränkte Freigabe von Anthropics Cybersicherheitsmodell Mythos hin, das das Unternehmen zufolge auf ausgewählte Partner beschränkt wurde, wegen des potenziellen Schadens, den seine Fähigkeiten zur Aufdeckung von Schwachstellen in den falschen Händen anrichten könnten.

Anthropic ist unterdessen einer der prominentesten Namen im KI-Wettlauf und soll Berichten zufolge auf dem Weg zu seinem ersten profitablen Quartal sein. Es hat kürzlich Unterlagen bei der SEC eingereicht, um an die Börse zu gehen, wahrscheinlich noch vor Jahresende.

Quellen:

• engadget.com

Mehr Techniknachrichten im Doppler VPN-Blog.