KI verwandelt einen klassischen Wurm in eine schnellere, adaptive Bedrohung

Eine neue Cybersicherheitsstudie lässt Alarmglocken läuten darüber, was passiert, wenn autonome Malware auf moderne KI trifft. Forscher der University of Toronto haben einen Prototyp‑Wurm demonstriert, der von öffentlich zugänglichen KI‑Modellen angetrieben wird, bekannte Computerlücken ausnutzen, sich ohne menschliches Eingreifen durch ein Testnetzwerk verbreiten und sein Verhalten anpassen kann, während er sich bewegt.

Im Gegensatz zu traditionellen Würmern, die meist von erfahrenen Programmierern entwickelt werden, um bestimmte Verwundbarkeiten anzugreifen, wurde der Prototyp so entworfen, dass er seine Angriffe an unterschiedliche Systeme anpasst, einschließlich Linux, Windows und IoT‑Geräte. Während er sich ausbreitet, kann er Daten sammeln, Passwörter abzapfen und nach zusätzlichen Schwachstellen suchen, die ihm helfen, tiefer in ein Netzwerk vorzudringen. Wenn ein Pfad gepatcht wird, kann der Wurm einen anderen versuchen.

Das Team gab an, das System in einer sicheren, geschlossenen Umgebung gebaut und KI‑Modelle mit offenen Gewichten unter umfangreichen Vorsichtsmaßnahmen verwendet zu haben. Dennoch zeigte das Ergebnis, wie KI dazu missbraucht werden könnte, Exploits zu automatisieren — in einem Ausmaß, das schwer zu kontrollieren ist, sobald es freigesetzt wird.

Ein Wurm, der beim Vorgehen dazulernt

Die Forscher sagen, der Wurm "füttere" sich außerdem, indem er Rechenleistung von infizierten Maschinen abzieht und diese Ressourcen nutzt, um sein Denken und seine Strategie für spätere Angriffe zu verbessern. Das schafft eine neue Art von Bedrohungsökonomie, in der ein Angreifer nach dem Start nicht mehr so viel Zeit oder Rechenleistung aufwenden muss.

„Hacker mussten typischerweise die wertvollsten Ziele priorisieren, weil Zeit und Rechenressourcen begrenzt waren“, sagte der Erstautor Nicolas Papernot. „Aber jetzt, sobald ein Wurm gestartet ist, würden die Kosten auf nahezu null sinken.“

Der Prototyp ist in einer wichtigen Hinsicht noch eingeschränkt: Er kann bekannte Schwachstellen ausnutzen, aber nicht eigenständig neue entdecken. Damit ist er weniger fortgeschritten als KI‑Systeme wie Anthropic’s Mythos, das laut Unternehmen bereits mehr als 10.000 Verwundbarkeiten aufgedeckt und Partnern geholfen hat, die Fehlererkennungsraten um mehr als das Zehnfache zu steigern.

Dennoch warnen die Forscher davor, dass böswillige Akteure diese Fähigkeiten kombinieren könnten. In einem solchen Szenario könnte ein KI‑Wurm sowohl neue Schwachstellen finden als auch ausnutzen, was ihn viel schwerer zu stoppen machen würde.

„In einer vernetzten Welt ist kein System gegen diese Bedrohung immun“, sagte Papernot.

Quellen:

engadget.com