شركة أمنية تقول إن ملحق تشات جي بي تي لجداول Google قد يؤدي إلى تسريب بيانات المستخدم
تعرض ملحق تشات جي بي تي لسوء استخدام على مستوى المصنفات
تقول شركة أمنية إنها وجدت طريقة لجعل ملحق تشات جي بي تي لجداول Google يسرب البيانات من حساب الضحية، مما يثير مخاوف جديدة بشأن أدوات الذكاء الاصطناعي التابعة لطرف ثالث التي يمكنها التعامل مع مستندات العمل الحساسة.
تتركز المشكلة حول هجوم حقن موجه غير مباشر يمكن أن يبدأ باستعلام واحد يبدو غير ضار في جدول واحد. وفقًا للباحثين، فإن ذلك التفاعل الواحد قد يكون كافيًا لتحفيز تأثيرات أوسع عبر حساب المستخدم، بما في ذلك سرقة بيانات من عدة مصنفات واستبدال الشريط الجانبي لتشات جي بي تي بواجهة يتحكم بها المهاجم.
الهجوم لا يعتمد على موافقة شخص على كل خطوة. قال الباحثون إنه ينجح حتى عندما يكون المستخدم قد فعّل إعدادات تهدف إلى طلب موافقة بشرية قبل أن يقوم تشات جي بي تي بتحرير المصنفات، بما في ذلك عنصر التحكم “تطبيق التعديلات تلقائيًا”. في اختباراتهم، كان المحتوى غير الموثوق داخل ورقة — أو المحتوى الذي يتم سحبه عبر موصل تشات جي بي تي — قادرًا على التلاعب بالنموذج لتشغيل نص برمجي خارجي يتحكم به المهاجم ويستخدم أذونات مُنحت مسبقًا للإضافة.
أطلقت أوبن إيه آي مؤخرًا ملحق جداول Google، الذي حصد أكثر من 185,000 تنزيل في أقل من شهر. تتيح الإضافة للمستخدمين التفاعل مع الجداول عبر الشريط الجانبي لتشات جي بي تي وأيضًا الوصول إلى البيانات من موصلات تشات جي بي تي.
في تحديث قُدم بعد مشاركة البحث، قالت أوبن إيه آي إنها اتخذت خطوات فورية لحماية المستخدمين من خلال إزالة قدرة النموذج على توليد كود نصوص التطبيقات، وهو ما قالت إنه ينبغي أن يقضي على الخطر الذي يواجه مستخدمي تشات جي بي تي لجداول Google. وأضافت الشركة أنها تعيد تقييم كيفية تفاعل الميزة مع واجهات برمجة تطبيقات جداول Google ونهجها في العزل.
قال الباحثون إنهم أفصحوا عن الثغرة بمسؤولية، لكنهم بعد المتابعات تلقوا ردًا آليًا فقط. وأضافوا أيضًا أن توثيق أوبن إيه آي لا يبيّن بوضوح القدرات الحساسة الممنوحة للنموذج، بما في ذلك القدرة على تشغيل نصوص ذات صلاحيات مميزة، أو المخاطر التي يسببها حقن الموجه غير المباشر.
تُضيف هذه النتائج إلى قائمة متزايدة من المخاوف الأمنية حول أدوات الذكاء الاصطناعي المدمجة في برامج الإنتاجية، حيث يمكن أن تتحول الراحة سريعًا إلى تعرض واسع النطاق للحساب عندما يُسمح للنموذج بالتصرف بناءً على بيانات غير موثوقة.
المصادر: