Firma de seguridad dice que el complemento ChatGPT para Google Sheets podría exfiltrar datos de usuarios
El complemento ChatGPT expuesto a un abuso a escala de hoja de cálculo
Una firma de seguridad afirma que encontró una forma de hacer que el complemento ChatGPT para Google Sheets exfiltre datos de la cuenta de una víctima, lo que reaviva las preocupaciones sobre las herramientas de IA de terceros que pueden actuar sobre documentos empresariales sensibles.
El problema se centra en un ataque de inyección de prompts indirecta que puede comenzar con una única consulta aparentemente inocua en una hoja de cálculo. Según los investigadores, esa interacción puede ser suficiente para desencadenar efectos más amplios en la cuenta del usuario, incluyendo el robo de datos de múltiples libros de trabajo y la sustitución de la barra lateral de ChatGPT por una interfaz controlada por el atacante.
El ataque no depende de que una persona apruebe cada paso. Los investigadores dijeron que tiene éxito incluso cuando el usuario ha activado ajustes destinados a requerir aprobación humana antes de que ChatGPT edite los libros de trabajo, incluido el control “Aplicar ediciones automáticamente”. En sus pruebas, contenido no confiable dentro de una hoja —o contenido extraído a través de un conector de ChatGPT— podría manipular al modelo para ejecutar un script externo controlado por el atacante que aprovechara permisos ya concedidos a la extensión.
OpenAI lanzó recientemente la extensión para Google Sheets, que ha acumulado más de 185.000 descargas en menos de un mes. El complemento permite a los usuarios interactuar con las hojas de cálculo a través de una barra lateral de ChatGPT y también acceder a datos mediante conectores de ChatGPT.
En una actualización proporcionada después de que se compartiera la investigación, OpenAI dijo que había tomado medidas inmediatas para proteger a los usuarios al eliminar la capacidad del modelo para generar código de Apps Script, lo que, según dijo, debería eliminar el riesgo para los usuarios de ChatGPT para Google Sheets. La compañía también dijo que está reevaluando cómo la función interactúa con las APIs de Google Sheets y su enfoque de sandboxing.
Los investigadores dijeron que habían divulgado la vulnerabilidad de forma responsable, pero que tras los seguimientos solo recibieron una respuesta automática. También argumentaron que la documentación de OpenAI no explica claramente las capacidades sensibles concedidas al modelo, incluida la capacidad de ejecutar scripts privilegiados, ni los riesgos que plantea la inyección indirecta de prompts.
Los hallazgos se suman a una lista creciente de preocupaciones de seguridad en torno a las herramientas de IA integradas en software de productividad, donde la conveniencia puede convertirse rápidamente en una exposición a nivel de cuenta cuando se permite que un modelo actúe sobre datos no confiables.
Fuentes: