OpenAI memperkenalkan Mod Kuncian untuk mengurangkan risiko suntikan prompt dalam ChatGPT
OpenAI menambah mod ChatGPT yang lebih ketat untuk kerja sensitif
OpenAI telah memperkenalkan satu “Mod Kuncian” baru untuk ChatGPT, satu ciri yang direka untuk mengurangkan risiko serangan suntikan prompt, di mana arahan berniat jahat tersembunyi di dalam laman web, dokumen atau sumber kandungan lain.
Syarikat itu berkata mod ini ditujukan kepada individu dan organisasi yang mengendalikan data sensitif dan mahukan perlindungan yang lebih kukuh terhadap risiko pendedahan data. Ia bukan untuk semua orang, kata OpenAI, tetapi untuk pengguna yang memerlukan kawalan yang lebih ketat terhadap apa yang boleh diakses ChatGPT dan bagaimana ia memberi respons.
Mod Kuncian mematikan beberapa ciri yang boleh memperluaskan permukaan serangan. Pengguna tidak akan dapat menggunakan penyemakan imbas web langsung, bermakna ChatGPT hanya boleh mengakses kandungan yang disimpan dalam cache. Mod ini juga mematikan pengambilan dan paparan imej dari web, walaupun penjanaan imej masih berfungsi. Selain itu, penyelidikan mendalam dan agent mode turut dimatikan.
OpenAI memberi amaran bahawa tetapan ini bukan penyelesaian menyeluruh. Walaupun Mod Kuncian diaktifkan, ChatGPT masih boleh terdedah kepada suntikan prompt yang muncul dalam kandungan web yang disimpan dalam cache atau fail yang dimuat naik, dan itu masih boleh mempengaruhi ketepatan atau tingkah laku respons. Matlamat syarikat, katanya, ialah untuk menjadikan pendedahan maklumat sensitif kurang mungkin berlaku semasa interaksi tersebut.
Pelancaran bermula dengan akaun ChatGPT Business layan-diri, bersama akaun peribadi yang layak.
Suntikan prompt telah menjadi kebimbangan yang semakin meningkat untuk sistem AI yang membaca dari web dan sumber luaran lain, kerana arahan tersembunyi boleh mengubah tingkah laku model tanpa disedari oleh pengguna. Mod baru OpenAI ini adalah tindak balas langsung kepada risiko itu, mengehadkan alat yang tersedia kepada ChatGPT apabila pengguna mahukan persekitaran yang lebih terkawal.
Sumber:
Baca lebih banyak berita teknologi di Doppler VPN Blog.