OpenAI, ChatGPT'deki prompt enjeksiyonu risklerini azaltmak için Kilitlenme Modu'nu yayınladı
OpenAI, hassas işler için daha sıkı bir ChatGPT modu ekliyor
OpenAI, ChatGPT için yeni bir “Kilitlenme Modu” tanıttı. Bu özellik, kötü niyetli talimatların web sayfaları, belgeler veya diğer içerik kaynaklarının içine saklanabildiği prompt enjeksiyonu saldırısı riskini azaltmak üzere tasarlandı.
Şirket, bu modun hassas verilerle ilgilenen ve veri sızdırma risklerine karşı daha güçlü koruma isteyen kişi ve kuruluşlar için amaçlandığını söyledi. Herkes için düşünülmediğini, ChatGPT'nin neler erişebileceği ve nasıl yanıt verebileceği üzerinde daha sıkı kontroller isteyen kullanıcılar için olduğunu belirtti.
Kilitlenme Modu, saldırı yüzeyini genişletebilecek birkaç özelliği devre dışı bırakır. Kullanıcılar canlı web taramayı kullanamayacak; bu da ChatGPT'nin yalnızca önbelleğe alınmış içeriklere erişebileceği anlamına geliyor. Mod ayrıca web'den görsellerin alınması ve gösterilmesini kapatıyor; yine de görüntü oluşturma çalışmaya devam ediyor. Buna ek olarak, derin araştırma ve ajan modu devre dışı bırakılıyor.
OpenAI, ayarın tam bir çözüm olmadığını da belirtti. Kilitlenme Modu etkin olsa bile, ChatGPT hâlâ önbelleğe alınmış web içeriğinde veya yüklenen dosyalarda görünen prompt enjeksiyonlarına karşı savunmasız olabilir ve bunlar bir yanıtın doğruluğunu veya davranışını etkileyebilir. Şirketin hedefi, bu etkileşimler sırasında hassas bilgilerin ortaya çıkma olasılığını azaltmak olduğunu söyledi.
Dağıtım, kullanıcı tarafından etkinleştirilebilen ChatGPT Business hesaplarıyla ve uygun kişisel hesaplarla başlıyor.
Prompt enjeksiyonu, modelin davranışını kullanıcıya açık olmadan değiştirebilen gizli talimatlar nedeniyle web ve diğer dış kaynaklardan okuyan AI sistemleri için artan bir endişe haline geldi. OpenAI'nin yeni modu, kullanıcılar daha kontrollü bir ortam istediğinde ChatGPT'nin kullanabileceği araçları daraltarak bu riske doğrudan yanıt veriyor.
Kaynaklar:
Teknoloji haberlerini Doppler VPN Blog üzerinden okuyun.