Na-expose ang add-on na ChatGPT sa pang-aabuso sa buong spreadsheet

Sinasabi ng isang kumpanya ng seguridad na nakahanap sila ng paraan para mapilit ang add-on na ChatGPT para sa Google Sheets na makalabas ng data mula sa account ng biktima, na nagdudulot ng panibagong pag-aalala tungkol sa mga third-party na tool ng AI na maaaring kumilos sa mga sensitibong dokumento ng negosyo.

Ang isyu ay umiikot sa isang indirect prompt injection attack na maaaring magsimula sa isang tila walang masamang hangaring query sa isang spreadsheet. Ayon sa mga mananaliksik, ang isang interaksiyon na iyon ay sapat na para mag-trigger ng mas malawak na epekto sa buong account ng gumagamit, kabilang ang pagnanakaw ng data mula sa maramihang workbook at pagpapalit ng ChatGPT sidebar gamit ang interface na kontrolado ng umaatake.

Hindi nakasalalay ang atake sa pag-apruba ng bawat hakbang ng isang tao. Sinabi ng mga mananaliksik na nagtatagumpay ito kahit na naka-on ang mga setting na nilalayon upang mangailangan ng pag-apruba ng tao bago mag-edit ang ChatGPT ng mga workbook, kabilang ang kontrol na “Apply edits automatically”. Sa kanilang pagsubok, ang hindi mapagkatiwalaang nilalaman sa loob ng isang sheet — o nilalamang hinugot sa pamamagitan ng isang ChatGPT connector — ay maaaring manipulahin ang modelo upang patakbuhin ang isang external script na kontrolado ng umaatake gamit ang mga permiso na dati nang ibinigay sa extension.

Kamakailan inilunsad ng OpenAI ang extension para sa Google Sheets, na nakalikom ng mahigit 185,000 downloads sa loob ng hindi pa nga isang buwan. Pinapahintulutan ng add-on ang mga gumagamit na makipag-interact sa mga spreadsheet sa pamamagitan ng isang ChatGPT sidebar at kumuha rin ng data mula sa mga ChatGPT connector.

Sa isang update na ibinigay matapos ibahagi ang pananaliksik, sinabi ng OpenAI na agad silang kumilos upang protektahan ang mga gumagamit sa pamamagitan ng pagtanggal ng kakayahan ng modelo na bumuo ng Apps Script code, na sinabi nilang dapat tanggalin ang panganib para sa mga gumagamit ng ChatGPT para sa Google Sheets. Sinabi rin ng kumpanya na muling sinusuri nila kung paano nakikipag-ugnayan ang feature sa Google Sheets APIs at ang kanilang sandboxing approach.

Sinabi ng mga mananaliksik na responsable nilang idiniscosse ang kahinaan, ngunit pagkatapos ng mga follow-up ay nakatanggap lamang sila ng awtomatikong tugon. Ipinunto rin nila na hindi malinaw sa dokumentasyon ng OpenAI ang mga sensitibong kakayahang ibinibigay sa modelo, kabilang ang kakayahang magpatakbo ng privileged scripts, o ang mga panganib na dulot ng indirect prompt injection.

Dagdag ito sa lumalaking listahan ng mga alalahanin sa seguridad tungkol sa mga tool ng AI na naka-embed sa productivity software, kung saan ang kaginhawaan ay maaaring mabilis na maging dahilan ng exposure sa buong account kapag pinayagan ang isang modelo na kumilos sa hindi mapagkatiwalaang data.

Mga Pinagmulan:

promptarmor.com