Tiện ích ChatGPT có thể bị lợi dụng để lạm dụng trên toàn bảng tính

Một công ty bảo mật cho biết họ tìm ra cách khiến tiện ích ChatGPT cho Google Sheets rò rỉ dữ liệu từ tài khoản nạn nhân, làm dấy lên lo ngại mới về các công cụ AI của bên thứ ba có thể tác động lên những tài liệu doanh nghiệp nhạy cảm.

Vấn đề nằm ở một cuộc tấn công chèn lệnh gián tiếp (indirect prompt injection) có thể bắt đầu bằng một truy vấn tưởng chừng vô hại trong một bảng tính. Theo các nhà nghiên cứu, tương tác đó có thể đủ để kích hoạt hiệu ứng rộng hơn trên toàn tài khoản người dùng, bao gồm đánh cắp dữ liệu từ nhiều sổ làm việc và thay thế thanh bên ChatGPT bằng một giao diện do kẻ tấn công điều khiển.

Cuộc tấn công không phụ thuộc vào việc có người phê duyệt từng bước. Các nhà nghiên cứu cho biết nó vẫn thành công ngay cả khi người dùng đã bật các cài đặt nhằm yêu cầu xác nhận thủ công trước khi ChatGPT chỉnh sửa sổ làm việc, bao gồm điều khiển “Tự động áp dụng sửa đổi” ("Apply edits automatically"). Trong thử nghiệm của họ, nội dung không đáng tin cậy bên trong một sheet — hoặc nội dung được kéo vào thông qua một trình kết nối ChatGPT — có thể thao túng mô hình để chạy một tập lệnh bên ngoài do kẻ tấn công kiểm soát, tận dụng quyền đã được cấp cho tiện ích mở rộng.

OpenAI gần đây đã ra mắt phần mở rộng Google Sheets, đã được tải xuống hơn 185.000 lần trong chưa đầy một tháng. Tiện ích này cho phép người dùng tương tác với bảng tính thông qua một thanh bên ChatGPT và cũng truy cập dữ liệu từ các trình kết nối ChatGPT.

Trong một bản cập nhật được cung cấp sau khi nghiên cứu được chia sẻ, OpenAI cho biết họ đã thực hiện các bước ngay lập tức để bảo vệ người dùng bằng cách loại bỏ khả năng của mô hình trong việc sinh mã Apps Script, điều mà công ty nói sẽ loại bỏ rủi ro đối với người dùng ChatGPT cho Google Sheets. Công ty cũng cho biết đang xem xét lại cách tính năng này tương tác với Google Sheets APIs và phương pháp sandboxing của nó.

Các nhà nghiên cứu nói họ đã tiết lộ lỗ hổng một cách có trách nhiệm, nhưng sau những lần theo dõi chỉ nhận được phản hồi tự động. Họ cũng cho rằng tài liệu của OpenAI không nêu rõ các khả năng nhạy cảm được cấp cho mô hình, bao gồm khả năng chạy các script có đặc quyền, hoặc rủi ro do chèn lệnh gián tiếp gây ra.

Những phát hiện này góp thêm vào danh sách ngày càng tăng các lo ngại về bảo mật xung quanh các công cụ AI được tích hợp trong phần mềm năng suất, nơi sự tiện lợi có thể nhanh chóng biến thành việc lộ toàn bộ tài khoản khi một mô hình được phép hành động trên dữ liệu không đáng tin cậy.

Nguồn:

promptarmor.com