Add-on ChatGPT terdedah kepada penyalahgunaan di seluruh helaian

Sebuah firma keselamatan berkata ia menemui cara untuk membuat add-on ChatGPT untuk Google Sheets mengeksfiltrasi data dari akaun mangsa, menimbulkan kebimbangan baharu mengenai alat AI pihak ketiga yang boleh bertindak pada dokumen perniagaan sensitif.

Isu ini berpunca daripada serangan suntikan arahan tidak langsung yang boleh bermula dengan satu pertanyaan yang nampak tidak berbahaya dalam satu helaian. Menurut para penyelidik, satu interaksi itu boleh mencukupi untuk mencetuskan kesan yang lebih meluas di seluruh akaun pengguna, termasuk mencuri data dari berbilang buku kerja dan menggantikan bar sisi ChatGPT dengan antara muka yang dikawal oleh penyerang.

Serangan itu tidak bergantung pada seseorang yang meluluskan setiap langkah. Para penyelidik berkata ia berjaya walaupun pengguna telah menghidupkan tetapan yang dimaksudkan untuk memerlukan kelulusan manusia sebelum ChatGPT menyunting buku kerja, termasuk kawalan “Terapkan suntingan secara automatik”. Dalam ujian mereka, kandungan yang tidak dipercayai di dalam helaian — atau kandungan yang ditarik masuk melalui penyambung ChatGPT — boleh memanipulasi model untuk menjalankan skrip luaran yang dikawal penyerang yang menggunakan kebenaran yang telah diberikan kepada sambungan tersebut.

OpenAI baru-baru ini melancarkan sambungan Google Sheets, yang telah meraih lebih 185,000 muat turun dalam kurang dari sebulan. Add-on itu membolehkan pengguna berinteraksi dengan helaian melalui bar sisi ChatGPT dan juga mengambil data dari penyambung ChatGPT.

Dalam kemas kini yang diberikan selepas penyelidikan itu dikongsi, OpenAI berkata ia telah mengambil langkah segera untuk melindungi pengguna dengan membuang keupayaan model untuk menjana kod Apps Script, yang katanya sepatutnya menghapuskan risiko kepada pengguna ChatGPT untuk Google Sheets. Syarikat itu berkata ia juga sedang menilai semula bagaimana ciri itu berinteraksi dengan API Google Sheets dan pendekatan sandboxingnya.

Para penyelidik berkata mereka telah mendedahkan kerentanan itu secara bertanggungjawab, tetapi selepas susulan hanya menerima jawapan automatik. Mereka juga berhujah bahawa dokumentasi OpenAI tidak menerangkan dengan jelas keupayaan sensitif yang diberikan kepada model, termasuk keupayaan untuk menjalankan skrip beristimewa, atau risiko yang ditimbulkan oleh suntikan arahan tidak langsung.

Penemuan ini menambah kepada senarai kebimbangan keselamatan yang semakin meningkat mengenai alat AI yang disematkan dalam perisian produktiviti, di mana kemudahan boleh dengan cepat berubah menjadi pendedahan merentasi akaun apabila model dibenarkan bertindak ke atas data yang tidak dipercayai.

Sumber:

promptarmor.com