Des chercheurs avertissent que des vers alimentés par l'IA pourraient se propager de manière autonome à travers les réseaux
L'IA transforme un ver classique en une menace adaptative et plus rapide
Une nouvelle étude en cybersécurité tire la sonnette d'alarme sur ce qui se passe lorsque des maliciels autonomes rencontrent l'IA moderne. Des chercheurs de l'Université de Toronto ont démontré un prototype de ver alimenté par des modèles d'IA accessibles au public qui peut exploiter des failles informatiques connues, se propager à travers un réseau de test sans intervention humaine et adapter son comportement au fur et à mesure de ses déplacements.
Contrairement aux vers traditionnels, généralement conçus par des programmeurs expérimentés pour cibler des vulnérabilités spécifiques, le prototype a été conçu pour adapter ses attaques à différents systèmes, y compris Linux, Windows et des appareils IoT. Au fur et à mesure de sa propagation, il peut collecter des données, siphonner des mots de passe et rechercher d'autres faiblesses qui l'aident à s'enfoncer davantage dans un réseau. Si une voie est colmatée, le ver peut en tester une autre.
L'équipe a déclaré avoir construit le système dans un environnement fermé et sécurisé et utilisé des modèles d'IA à poids ouverts avec d'importantes précautions. Malgré cela, le résultat a montré comment l'IA pourrait être militarisée pour automatiser l'exploitation à une échelle difficile à contenir une fois libérée.
Un ver qui apprend en chemin
Les chercheurs expliquent que le ver se « nourrit » aussi en puisant de la puissance de traitement sur les machines infectées, utilisant ces ressources pour améliorer son raisonnement et sa stratégie pour des attaques ultérieures. Cela crée une nouvelle sorte d'économie de la menace, où un attaquant n'a plus besoin de consacrer autant de temps ou de puissance de calcul après le lancement.
« Les hackers ont généralement dû prioriser les cibles les plus rentables parce que le temps et les ressources de calcul étaient limités, » a déclaré l'auteur principal Nicolas Papernot. « Mais maintenant, une fois qu'un ver est lancé, le coût chuterait presque à zéro. »
Le prototype est encore limité d'une manière importante : il peut exploiter des failles connues, mais il ne peut pas en découvrir de nouvelles de lui-même. Cela le rend moins avancé que des systèmes d'IA tels que le Mythos d'Anthropic, que l'entreprise affirme avoir déjà aidé à découvrir plus de 10 000 vulnérabilités et permis à ses partenaires d'augmenter de plus de dix fois leur taux de détection de bugs.
Pourtant, les chercheurs mettent en garde contre la possibilité que des acteurs malveillants combinent ces capacités. Dans ce scénario, un ver IA pourrait à la fois trouver et exploiter des vulnérabilités inédites, le rendant bien plus difficile à arrêter.
« Dans un monde interconnecté, aucun système n'est à l'abri de cette menace, » a conclu Papernot.
Sources :