研究者、AI搭載ワームがネットワーク上で自律的に拡散する可能性を警告
AIが古典的なワームをより速く適応的な脅威に変える
新しいサイバーセキュリティの研究が、自律型マルウェアと現代の人工知能が結びついた時に何が起きるかについて警鐘を鳴らしています。トロント大学の研究者たちは、公開されているAIモデルを活用し、既知の脆弱性を悪用してテストネットワーク上で人間の介入なしに拡散し、移動しながら行動を適応させるプロトタイプのワームを実証しました。
従来のワームは、通常、熟練したプログラマが特定の脆弱性を狙って作成しますが、このプロトタイプはLinux、Windows、IoTデバイスなど異なるシステムに応じて攻撃を調整するよう設計されています。拡散する過程でデータを収集し、パスワードを吸い上げ、ネットワーク内部へ深く侵入するための追加の弱点を探します。ある経路が修正（パッチ適用）されれば、別の経路を試みることができます。
研究チームはこのシステムを安全な閉鎖環境内で構築し、オープンウェイトのAIモデルや厳重な予防策を用いたと述べています。それでも、今回の結果は、AIが一度放たれれば制御が困難な規模で悪用され、自動化された搾取を行える可能性を示しました。
自ら学習しながら進化するワーム
研究者らによれば、このワームは感染したマシンから処理能力を吸い取り、それらのリソースを用いて推論や後続の攻撃戦略を改善することで自らを“肥やす”ともいえる動作をします。これにより、攻撃者が起動後に費やす時間や計算資源が大幅に減少する、新しい種類の脅威経済が生まれます。
「ハッカーはこれまでは時間と計算資源が限られていたため、価値の高いターゲットを優先せざるを得ませんでした」と筆頭著者のNicolas Papernotは述べています。「しかし、ワームが一度放たれれば、そのコストはほぼゼロに近づくでしょう。」
このプロトタイプには重要な制約が一つあります。既知の欠陥を悪用することはできても、新たな脆弱性を自ら発見することはできません。その点で、AnthropicのMythosのように既に1万件以上の脆弱性を発見し、パートナーのバグ発見率を10倍以上に高めたとされるAIシステムよりも進んでいるわけではありません。
それでも研究者らは、悪意ある者がこれらの能力を組み合わせる可能性を警告しています。そのようなシナリオでは、AIワームは新たな脆弱性を発見し悪用することが可能になり、対処がはるかに困難になります。
「相互接続された世界では、どのシステムもこの脅威から免疫ではありません」とPapernotは述べました。
情報源: