Araştırmacılar uyarıyor: Yapay Zeka destekli solucanlar ağlar arasında otonom olarak yayılabilir
Yapay Zeka klasik bir solucanı daha hızlı, uyum sağlayan bir tehdide dönüştürüyor
Yeni bir siber güvenlik çalışması, otonom kötü amaçlı yazılımlar ile modern yapay zekanın kesiştiğinde neler olabileceği konusunda alarm veriyor. Toronto Üniversitesi araştırmacıları, herkese açık yapay zeka modelleriyle güçlendirilmiş bir prototip solucanın bilinen bilgisayar açıklarından yararlanabileceğini, test ağı içinde insan müdahalesi olmadan yayılabileceğini ve hareket ettikçe davranışını uyarlayabileceğini gösterdi.
Çoğu zaman belirli açıklara yönelik olarak yetenekli programcılar tarafından oluşturulan geleneksel solucanların aksine, bu prototip çeşitli sistemlere — Linux, Windows ve Nesnelerin İnterneti (IoT) cihazları dahil — yönelik saldırılarını uyarlayacak şekilde tasarlandı. Yayılırken veri toplayabilir, parolaları ele geçirebilir ve bir ağ içinde daha derinlere hareket etmesine yardımcı olacak ek zayıflıkları arayabilir. Bir yol yamalandığında solucan başka bir yolu deneyebilir.
Ekip, sistemi güvenli kapalı bir ortamda inşa ettiklerini ve geniş önlemlerle birlikte açık ağırlıklı AI modelleri kullandıklarını söyledi. Buna rağmen, ortaya çıkan sonuç yapay zekanın istismar otomasyonunu, serbest bırakıldıktan sonra kontrol edilmesi zor bir ölçekte silahlandırabileceğini gösterdi.
Giderken öğrenen bir solucan
Araştırmacılar, solucanın ayrıca enfekte makinelerden işlem gücü çekerek kendini “beslediğini”, bu kaynakları daha sonraki saldırılar için akıl yürütmesini ve stratejisini geliştirmek üzere kullandığını söylüyor. Bu, saldırganın başlattıktan sonra harcaması gereken zaman ve işlem gücünü önemli ölçüde azaltan yeni bir tehdit ekonomisi yaratıyor.
“Saldırganlar tipik olarak en yüksek değere sahip hedefleri önceliklendirmek zorunda kalıyordu çünkü zaman ve işlem kaynakları sınırlıydı,” dedi başyazar Nicolas Papernot. “Ama şimdi, bir solucan başlatıldığında maliyet neredeyse sıfıra düşerdi.”
Prototip hâlâ önemli bir açıdan sınırlı: bilinen açıklardan yararlanabiliyor, ancak kendi başına yeni açıklıkları keşfedemiyor. Bu yönüyle, şirketin daha önce 10.000’den fazla zafiyeti ortaya çıkardığını ve ortakların hata bulma oranlarını on katın üzerinde artırdığı söylediği Anthropic’in Mythos’u gibi bazı AI sistemlerinden daha az gelişmiş durumda.
Yine de, araştırmacılar kötü niyetli aktörlerin bu yetenekleri birleştirebileceği konusunda uyarıyor. Böyle bir senaryoda bir yapay zeka solucanı hem yeni açıklıkları bulup hem de onları istismar edebilir, bu da durdurmayı çok daha zorlaştırır.
“Birbirine bağlı bir dünyada hiçbir sistem bu tehdide karşı bağışık değildir,” dedi Papernot.
Kaynaklar: