Kecerdasan buatan mengubah cacing klasik menjadi ancaman yang lebih pantas dan adaptif

Satu kajian keselamatan siber baru menimbulkan kebimbangan tentang apa yang berlaku apabila perisian hasad autonomi bertemu dengan kecerdasan buatan moden. Penyelidik di Universiti Toronto telah memperagakan prototaip cacing yang dikuasakan oleh model kecerdasan buatan yang boleh diakses secara awam yang boleh mengeksploitasi kelemahan komputer yang diketahui, merebak melalui rangkaian ujian tanpa campur tangan manusia dan menyesuaikan perilakunya semasa bergerak.

Berbeza dengan cacing tradisional, yang biasanya dibina oleh pengaturcara mahir untuk menyasarkan kelemahan tertentu, prototaip ini direka untuk menyesuaikan serangannya merentasi sistem yang berbeza, termasuk Linux, Windows dan peranti IoT. Semasa ia merebak, ia boleh mengumpul data, menyedut kata laluan dan mencari kelemahan tambahan yang membantunya bergerak lebih jauh ke dalam rangkaian. Jika satu laluan dipatch, cacing itu boleh mencuba laluan lain.

Pasukan itu berkata mereka membina sistem itu dalam persekitaran tertutup yang selamat dan menggunakan model kecerdasan buatan berat-buka dengan langkah berjaga-jaga yang meluas. Walaupun begitu, hasilnya menunjukkan bagaimana kecerdasan buatan boleh dijadikan senjata untuk mengautomasikan eksploitasi pada skala yang sukar dikawal sebaik dilepaskan.

Cacing yang belajar semasa bergerak

Penyelidik berkata cacing itu juga “memberi makan” kepada dirinya dengan menarik kuasa pemprosesan daripada mesin yang dijangkiti, menggunakan sumber itu untuk meningkatkan daya pemikiran dan strateginya bagi serangan kemudian. Itu mewujudkan satu bentuk ekonomi ancaman baru, di mana penyerang tidak lagi perlu menghabiskan sebanyak masa atau kuasa pengkomputeran selepas pelancaran.

“Penggodam biasanya terpaksa mengutamakan sasaran bernilai tinggi kerana masa dan sumber pengkomputeran adalah terhad,” kata penulis utama Nicolas Papernot. “Tetapi kini, sebaik cacing dilancarkan, kosnya akan jatuh hampir kepada sifar.”

Prototaip itu masih terhad dalam satu cara penting: ia boleh mengeksploitasi kecacatan yang diketahui, tetapi ia tidak boleh menemui yang baharu dengan sendirinya. Itu menjadikannya kurang maju berbanding sistem kecerdasan buatan seperti Mythos milik Anthropic, yang syarikat itu kata telah menemui lebih daripada 10,000 kelemahan dan membantu rakan kongsi meningkatkan kadar penemuan pepijat lebih daripada sepuluh kali ganda.

Walau bagaimanapun, penyelidik memberi amaran bahawa pihak jahat boleh menggabungkan keupayaan itu. Dalam senario itu, cacing kecerdasan buatan boleh sama ada menemui dan mengeksploitasi kelemahan baru, menjadikannya jauh lebih sukar untuk dihentikan.

“Dalam dunia yang saling berhubung, tiada sistem yang kebal terhadap ancaman ini,” kata Papernot.

Sumber:

engadget.com