ИИ превращает классический червь в более быстрый адаптивный угрозу

Новое исследование в области кибербезопасности поднимает тревогу о том, что произойдёт, когда автономное вредоносное ПО встретится с современным ИИ. Исследователи из Университета Торонто продемонстрировали прототип червя на базе общедоступных моделей ИИ, который может эксплуатировать известные уязвимости, распространяться по тестовой сети без вмешательства человека и адаптировать своё поведение по мере перемещения.

В отличие от традиционных червей, которые обычно создаются опытными программистами для атаки конкретных уязвимостей, прототип был разработан так, чтобы настраивать свои атаки под разные системы, включая Линукс, Windows и устройства интернета вещей. По мере распространения он может собирать данные, похищать пароли и искать дополнительные слабые места, помогающие продвинуться глубже в сети. Если один маршрут будет закрыт, червь может попробовать другой.

Команда заявила, что строила систему в безопасной изолированной среде и использовала модели с открытыми весами при строгих мерах предосторожности. Даже при этих условиях результат показал, как ИИ может быть превращён в оружие для автоматизации эксплуатации уязвимостей в масштабе, который будет трудно сдержать после выхода в сеть.

Червь, который учится в процессе

Исследователи утверждают, что червь также «подкармливает» себя, отбирая вычислительные ресурсы у заражённых машин и используя эти мощности для улучшения своего рассуждения и стратегии для последующих атак. Это создаёт новый вид экономической модели угроз, где злоумышленнику не нужно тратить столько времени или вычислительных ресурсов после запуска.

«Хакерам обычно приходилось выбирать самые ценные цели, потому что время и вычислительные ресурсы были ограничены», — сказал ведущий автор Николя Паперно. «Но теперь, после запуска червя, стоимость атаки упадёт почти до нуля».

Прототип по-прежнему ограничен в одном важном аспекте: он может эксплуатировать только известные дефекты, но не способен самостоятельно открывать новые уязвимости. Это делает его менее продвинутым по сравнению с ИИ-системами, такими как Mythos от Anthropic, которые, по заявлению компании, уже обнаружили более 10 000 уязвимостей и помогли партнёрам увеличить скорость поиска багов более чем в десять раз.

Тем не менее исследователи предупреждают, что недоброжелатели могут комбинировать эти возможности. В таком сценарии ИИ-червь мог бы одновременно находить и эксплуатировать новые уязвимости, что сделало бы его значительно сложнее для остановки.

«В взаимосвязанном мире ни одна система не застрахована от такой угрозы», — сказал Паперно.

Источники:

engadget.com