OpenAI meluncurkan Mode Penguncian untuk mengurangi risiko injeksi perintah di ChatGPT
OpenAI menambahkan mode ChatGPT yang lebih ketat untuk pekerjaan sensitif
OpenAI telah memperkenalkan “Mode Penguncian” baru untuk ChatGPT, sebuah fitur yang dirancang untuk mengurangi risiko serangan injeksi perintah, di mana instruksi berbahaya disembunyikan di dalam halaman web, dokumen, atau sumber konten lainnya.
Perusahaan mengatakan mode ini ditujukan untuk individu dan organisasi yang menangani data sensitif dan menginginkan perlindungan yang lebih kuat terhadap risiko eksfiltrasi data. Ini tidak dimaksudkan untuk semua orang, kata OpenAI, melainkan untuk pengguna yang membutuhkan kontrol lebih ketat terhadap apa yang dapat diakses ChatGPT dan bagaimana responsnya.
Mode Penguncian menonaktifkan beberapa fitur yang dapat memperluas permukaan serangan. Pengguna tidak akan bisa menggunakan penjelajahan web langsung, yang berarti ChatGPT hanya dapat mengakses konten yang tersimpan dalam cache. Mode ini juga mematikan pengambilan dan tampilan gambar dari web, meskipun pembuatan gambar tetap berfungsi. Selain itu, riset mendalam dan mode agen dinonaktifkan.
OpenAI memperingatkan bahwa pengaturan ini bukanlah solusi lengkap. Bahkan dengan Mode Penguncian diaktifkan, ChatGPT masih bisa rentan terhadap injeksi perintah yang muncul dalam konten web yang tersimpan di cache atau berkas yang diunggah, dan hal tersebut masih dapat memengaruhi akurasi atau perilaku respons. Tujuan perusahaan, katanya, adalah membuat kemungkinan paparan informasi sensitif selama interaksi tersebut menjadi lebih kecil.
Peluncuran dimulai dengan akun ChatGPT Business mandiri, bersama dengan akun pribadi yang memenuhi syarat.
Injeksi perintah telah menjadi kekhawatiran yang berkembang bagi sistem AI yang membaca dari web dan sumber eksternal lainnya, karena instruksi tersembunyi dapat mengubah perilaku model tanpa terlihat jelas bagi pengguna. Mode baru OpenAI adalah respons langsung terhadap risiko tersebut, dengan mempersempit alat yang tersedia untuk ChatGPT ketika pengguna menginginkan lingkungan yang lebih terkendali.
Sumber:
Baca lebih banyak berita teknologi di Doppler VPN Blog.