Kecerdasan buatan mengubah cacing klasik menjadi ancaman yang lebih cepat dan adaptif

Sebuah studi keamanan siber baru memicu alarm tentang apa yang terjadi ketika malware otonom bertemu dengan kecerdasan buatan modern. Para peneliti di Universitas Toronto telah mendemonstrasikan sebuah prototipe cacing yang didukung oleh model kecerdasan buatan (AI) yang dapat diakses publik, yang mampu memanfaatkan kerentanan komputer yang sudah diketahui, menyebar melalui jaringan uji tanpa intervensi manusia, dan menyesuaikan perilakunya saat bergerak.

Berbeda dengan cacing tradisional, yang biasanya dibuat oleh pemrogram terampil untuk menargetkan kerentanan tertentu, prototipe ini dirancang untuk menyesuaikan serangannya di berbagai sistem, termasuk Linux, Windows, dan perangkat IoT. Saat menyebar, cacing ini dapat mengumpulkan data, menyedot kata sandi, dan mencari kelemahan tambahan yang membantunya bergerak lebih jauh ke dalam jaringan. Jika satu jalur ditambal, cacing dapat mencoba jalur lain.

Tim mengatakan mereka membangun sistem itu di lingkungan tertutup yang aman dan menggunakan model kecerdasan buatan ber-bobot terbuka dengan tindakan pencegahan yang ketat. Meski begitu, hasilnya menunjukkan bagaimana kecerdasan buatan dapat disalahgunakan untuk mengotomatisasi eksploitasi pada skala yang sulit dikendalikan jika dilepaskan.

Cacing yang belajar saat bergerak

Para peneliti mengatakan cacing itu juga "memakan" dirinya sendiri dengan menarik daya pemrosesan dari mesin yang terinfeksi, menggunakan sumber daya tersebut untuk meningkatkan kemampuan penalaran dan strateginya untuk serangan berikutnya. Itu menciptakan jenis ekonomi ancaman baru, di mana penyerang tidak lagi perlu menghabiskan banyak waktu atau daya komputasi setelah peluncuran.

"Peretas biasanya harus memprioritaskan target bernilai tinggi karena waktu dan sumber daya komputasi terbatas," kata penulis utama Nicolas Papernot. "Tetapi sekarang, setelah sebuah cacing diluncurkan, biayanya akan turun hampir menjadi nol."

Prototipe itu masih terbatas dalam satu hal penting: ia dapat mengeksploitasi celah yang sudah diketahui, tetapi tidak dapat menemukan yang baru dengan sendirinya. Itu membuatnya kurang maju dibandingkan sistem kecerdasan buatan seperti Mythos milik Anthropic, yang menurut perusahaan telah menemukan lebih dari 10.000 kerentanan dan membantu mitra meningkatkan tingkat penemuan bug lebih dari sepuluh kali lipat.

Meski begitu, para peneliti memperingatkan bahwa aktor jahat bisa menggabungkan kemampuan-kemampuan itu. Dalam skenario tersebut, sebuah cacing bertenaga kecerdasan buatan bisa sekaligus menemukan dan mengeksploitasi kerentanan baru, sehingga jauh lebih sulit dihentikan.

"Di dunia yang saling terhubung, tidak ada sistem yang kebal terhadap ancaman ini," kata Papernot.

Sumber:

engadget.com