ChatGPT eklentisi hesap çapında suistimale açık

Bir güvenlik firması, ChatGPT için Google Sheets eklentisini kullanıcının hesabından veri sızdıracak şekilde çalıştırmanın bir yolunu bulduğunu söyleyerek, hassas iş belgeleri üzerinde işlem yapabilen üçüncü taraf yapay zeka araçlarıyla ilgili yeni endişeler doğurdu.

Sorun, tek bir görünüşte zararsız sorguyla bir hesap içindeki daha geniş etkilere yol açabilen dolaylı istem enjeksiyonu saldırısına dayanıyor. Araştırmacılara göre bu tek etkileşim, birden fazla çalışma kitabından veri çalmak ve ChatGPT yan panelini saldırgan kontrollü bir arayüzle değiştirmek de dahil olmak üzere kullanıcının hesabı genelinde daha geniş etkileri tetiklemek için yeterli olabiliyor.

Saldırı, her adım için bir kişinin onayına bağlı değil. Araştırmacılar, kullanıcıların ChatGPT'nin çalışma kitaplarını düzenlemeden önce insan onayı gerektirmesini sağlamak amacıyla açtığı ayarlar—örneğin "Değişiklikleri otomatik uygula" denetimi—etkin olsa bile bu yöntemin başarılı olduğunu söyledi. Testlerinde, bir sayfa içindeki güvenilmeyen içerik veya bir ChatGPT bağlayıcısı aracılığıyla çekilen içerik, modeli saldırgan kontrollü bir dış betik çalıştırmaya yönlendirebiliyordu; bu betik ise uzantıya önceden verilmiş izinleri kullanıyordu.

OpenAI yakın zamanda Google Sheets eklentisini yayımladı; bu eklenti bir ayı bile doldurmadan 185.000'den fazla indirme aldı. Eklenti, kullanıcılara bir ChatGPT yan paneli aracılığıyla tablolarla etkileşim kurma ve ayrıca ChatGPT bağlayıcılarından veri çekme imkanı sunuyor.

Araştırmanın paylaşılmasının ardından yapılan bir güncellemede OpenAI, kullanıcıları korumak için modelin Apps Script kodu üretme yeteneğini hemen kaldırdığını; bunun ChatGPT for Google Sheets kullanıcılarına yönelik riski ortadan kaldırması gerektiğini belirtti. Şirket ayrıca özelliğin Google Sheets API'larıyla etkileşimini ve sandbox yaklaşımını yeniden değerlendirdiğini söyledi.

Araştırmacılar, güvenlik açığını sorumlu bir şekilde bildirdiklerini; ancak takiplerden sonra yalnızca otomatik bir yanıt aldıklarını söyledi. Ayrıca OpenAI dokümantasyonunun modele verilen ayrıcalıklı betikleri çalıştırma yeteneği gibi hassas yetkileri veya dolaylı istem enjeksiyonunun oluşturduğu riskleri açıkça belirtmediğini savundular.

Bu bulgular, üretkenlik yazılımlarına gömülü yapay zeka araçları etrafındaki güvenlik kaygıları listesini uzatıyor; pratiklik, modelin güvenilmeyen veriler üzerinde işlem yapmasına izin verildiğinde hesabın tamamında açıklığa hızla dönüşebiliyor.

Kaynaklar:

promptarmor.com