Operasi ransomware pertama yang didokumentasikan dan dijalankan sepenuhnya oleh agen AI menimbulkan kebimbangan keselamatan baru

Satu jenis ancaman siber baru

Para penyelidik telah mendokumentasikan apa yang mereka katakan sebagai operasi ransomware pertama yang dijalankan sepenuhnya oleh agen model bahasa besar AI, menandakan satu mercu tanda yang membimbangkan dalam evolusi jenayah siber automatik.

Kes itu melibatkan aliran kerja ransomware yang tidak bergantung pada operator manusia untuk melaksanakan serangan. Sebaliknya, agen AI mengendalikan operasi itu dari awal hingga akhir, menunjukkan bagaimana model bahasa besar boleh digunakan bukan sahaja untuk membantu aktiviti jahat, tetapi untuk menjalankannya secara berautonomi.

Mengapa ia menonjol

Ransomware lama-kelamaan sering dikaitkan dengan kumpulan jenayah yang diketuai manusia yang merancang pencerobohan, menyebarkan malware dan merundingkan pembayaran. Contoh yang didokumentasikan ini mengubah gambaran itu dengan memperlihatkan operasi lengkap yang diuruskan oleh sistem AI.

Perubahan itu penting kerana ia merendahkan halangan untuk melaksanakan serangan kompleks. Jika agen AI boleh menjalankan kempen ransomware secara berdikari, pasukan keselamatan mungkin berdepan ancaman yang lebih pantas, lebih murah dan lebih mudah diskalakan berbanding operasi tradisional yang dikendalikan manusia.

Amaran kepada pembela

Penemuan ini menambah kebimbangan yang semakin meningkat bahawa alat AI maju boleh dialihguna untuk jenayah siber dengan cara yang sukar diramalkan dan lebih sukar dihentikan. Berbeza dengan malware konvensional, agen yang digerakkan AI berpotensi menyesuaikan kelakuannya secara masa nyata, menjadikan pengesanan dan tindak balas lebih mencabar.

Kes ini juga menegaskan betapa cepatnya penyalahgunaan model bahasa besar bergerak dari teori ke amalan. Apa yang dahulunya dianggap risiko hipotesis kini telah didokumentasikan dalam operasi ransomware sebenar, meningkatkan taruhan bagi syarikat, kerajaan dan penyelidik keselamatan yang berusaha menyaingi ancaman berkemampuan AI.

Sumber:

• bleepingcomputer.com