Yapay Zeka Hata Avcılığını Daha Hızlı ve Daha Maliyetli Bir Silahlanma Yarışına Dönüştürüyor
Yapay zeka hata avcılığını yeniden şekillendiriyor
Hata ödül programlarının niş bir güvenlik uygulamasından kurumsal bir politikaya dönüşmesinin üzerinden on yıl geçtikten sonra, yeni bir yapay zeka dalgası güvenlik açıkları araştırmasının ekonomisini altüst ediyor. Etken yapay zeka sistemleri hem yazılımdaki zayıflıkları bulmada hem de exploit geliştirmede daha iyi hâle geliyor; ifşa programlarını daha fazla bildirimle doldururken kuruluşların kendi başlarına daha fazla hata keşfetmesine de yol açıyor.
Sonuç, araştırmacılar, şirketler ve saldırganlar arasında kızışan bir silahlanma yarışı. Kendi çalışmalarında yapay zekayı kullanmak için araçlar ve yöntemler geliştirmiş bağımsız güvenlik araştırmacısı Joseph Thacker, bu noktaya kadar geçen sürede geçen yılkinden yaklaşık üç kat daha fazla hata bildirdiğini söyledi. Baskının önce büyük şirketleri vurmasını bekliyor.
"Google gibi bir şirketin geçen yıla kıyasla hata ödemelerine iki ila on kat daha fazla harcama yapacağını tahmin ederdim," dedi Thacker.
Büyük teknoloji şirketlerinin artışı karşılayabileceğini, ancak birçok diğerinin karşılayamayacağını da ekledi. Ona göre yapay zeka sistemleri şimdiden daha kolay bulunan zayıflıkları tespit ediyor ve önümüzdeki yıl, birçok kolay bulunan hatanın zaten keşfedilmiş olmasından dolayı gönderilecek daha az düşük seviye hata kalabilir.
İfşa süreleri baskı altında
Bu değişim, sorumlu ifşa konusundaki uzun süreli normları da zorlayıyor. Güvenlik araştırmacısı Himanshu Anand bu ayın başlarında yazdığı bir yazıda, 90 günlük ifşa penceresinin hata bulanların nadir olduğu ve exploit geliştirmenin yavaş olduğu bir dünya için oluşturulduğunu, büyük dil modellerinin her iki zaman çizelgesini de sıkıştırdığını belirtti.
Bu sıkışma, özellikle saldırganlar kusurları daha hızlı keşfedip silaha dönüştürebiliyorsa, geliştiricileri yamaları daha hızlı yayımlamaya zorlayabilir. Ayrıca kuruluşları, içsel olarak düzeltmeleri ne kadar çabuk dağıttıklarını iyileştirmeye itebilir; bu süreç her zaman zordu çünkü yamalar yeterince test edilmeden dağıtıldığında yeni sorunlar yaratabilir.
Hata ödül programları kendileri de şimdiden dramatik şekilde evrildi. Apple 2016'da ödül programını başlattığında en yüksek ödül 200.000 dolardı. Şirket bunu 2019'da 1 milyon dolara ve geçen yıl 2 milyon dolara çıkardı.
Şimdi, yapay zekanın hem hata arzını hem de exploit oluşturma hızını artırmasıyla, araştırmacılar diyor ki, zafiyet araştırmasının bir sonraki aşaması öncekinin çok farklı görünmesi muhtemel.
Kaynaklar: