Add-on ChatGPT rentan terhadap penyalahgunaan di seluruh spreadsheet

Sebuah perusahaan keamanan mengatakan mereka menemukan cara untuk membuat add-on ChatGPT untuk Google Sheets mengekstrak data dari akun korban, menimbulkan kekhawatiran baru tentang alat AI pihak ketiga yang dapat beraksi pada dokumen bisnis sensitif.

Masalah ini berpusat pada serangan injeksi prompt tidak langsung yang bisa dimulai dari satu pertanyaan yang tampak tidak berbahaya di satu spreadsheet. Menurut para peneliti, satu interaksi itu bisa cukup untuk memicu efek yang lebih luas di seluruh akun pengguna, termasuk mencuri data dari beberapa workbook dan menggantikan sidebar ChatGPT dengan antarmuka yang dikendalikan penyerang.

Serangan ini tidak bergantung pada persetujuan orang untuk setiap langkah. Para peneliti mengatakan serangan ini berhasil bahkan ketika pengguna telah menyalakan pengaturan yang dimaksudkan untuk mengharuskan persetujuan manusia sebelum ChatGPT mengedit workbook, termasuk kontrol “Terapkan edit secara otomatis”. Dalam pengujian mereka, konten yang tidak dipercaya di dalam sheet — atau konten yang ditarik melalui konektor ChatGPT — bisa memanipulasi model agar menjalankan skrip eksternal yang dikendalikan penyerang yang menggunakan izin yang sudah diberikan ke ekstensi.

OpenAI baru-baru ini meluncurkan ekstensi Google Sheets, yang telah diunduh lebih dari 185.000 kali dalam waktu kurang dari sebulan. Add-on ini memungkinkan pengguna berinteraksi dengan spreadsheet melalui sidebar ChatGPT dan juga mengambil data dari konektor ChatGPT.

Dalam pembaruan yang diberikan setelah penelitian dibagikan, OpenAI mengatakan telah mengambil langkah segera untuk melindungi pengguna dengan menghapus kemampuan model untuk menghasilkan kode Apps Script, yang menurut perusahaan seharusnya menghilangkan risiko bagi pengguna ChatGPT untuk Google Sheets. Perusahaan juga mengatakan sedang mengevaluasi kembali bagaimana fitur tersebut berinteraksi dengan Google Sheets APIs dan pendekatan sandboxing-nya.

Para peneliti mengatakan mereka telah bertanggung jawab melaporkan kerentanan tersebut, tetapi setelah tindak lanjut hanya menerima balasan otomatis. Mereka juga berargumen bahwa dokumentasi OpenAI tidak dengan jelas menjabarkan kemampuan sensitif yang diberikan kepada model, termasuk kemampuan menjalankan skrip yang memiliki hak istimewa, atau risiko yang ditimbulkan oleh injeksi prompt tidak langsung.

Temuan ini menambah daftar kekhawatiran keamanan yang terus berkembang seputar alat AI yang tertanam dalam perangkat lunak produktivitas, di mana kenyamanan cepat berubah menjadi paparan di seluruh akun ketika sebuah model diizinkan bertindak pada data yang tidak dipercaya.

Sumber:

promptarmor.com