یک شرکت امنیتی میگوید افزودنی چتجیپیتی برای Google شیتها میتواند دادههای کاربران را خارج کند
افزودنی چتجیپیتی در معرض سوءاستفادهای گسترده در شیتها قرار گرفت
یک شرکت امنیتی میگوید راهی یافته است که افزودنی چتجیپیتی برای Google شیتها را وادار کند دادههایی را از حساب یک قربانی استخراج کند، که نگرانیهای تازهای درباره ابزارهای هوش مصنوعی شخص ثالث که میتوانند روی اسناد حساس کاری عمل کنند ایجاد میکند.
مسئله حول یک حمله تزریق غیرمستقیم پرامپت میچرخد که میتواند با یک پرسش ظاهراً بیضرر در یک شیت آغاز شود. بهگفته پژوهشگران، همان یک تعامل میتواند برای فعالسازی تأثیرات گستردهتر در حساب کاربری کاربر کافی باشد، از جمله سرقت دادهها از چندین کتاب کاری و جایگزین کردن نوار کناری چتجیپیتی با یک رابط تحت کنترل مهاجم.
این حمله وابسته به تأیید هر مرحله توسط انسان نیست. پژوهشگران گفتند که حتی زمانی که کاربر تنظیماتی را روشن کرده باشد که قرار است قبل از ویرایش کتابها توسط چتجیپیتی نیاز به تأیید انسانی باشد، از جمله کنترل «اعمال ویرایشها بهطور خودکار»، حمله موفق میشود. در آزمایشهای آنها، محتوای غیرقابلاعتماد داخل یک شیت — یا محتوایی که از طریق یک اتصال چتجیپیتی کشیده میشد — میتوانست مدل را به اجرای یک اسکریپت خارجی تحت کنترل مهاجم سوق دهد که از مجوزهایی که پیشتر به افزونه داده شده بود استفاده میکرد.
اوپنایآی اخیراً افزونه Google شیتها را منتشر کرده است، که در کمتر از یک ماه بیش از 185,000 بار دانلود شده است. این افزودنی به کاربران اجازه میدهد از طریق یک نوار کناری چتجیپیتی با شیتها تعامل داشته باشند و همچنین از دادهها از طریق اتصالات چتجیپیتی استفاده کنند.
در بهروزرسانیای که پس از اشتراکگذاری پژوهش ارائه شد، اوپنایآی گفت بلافاصله اقداماتی برای محافظت از کاربران انجام داده است و توانایی مدل برای تولید کد اسکریپتهای برنامهای را حذف کرده است، که به گفته شرکت باید ریسک برای کاربران چتجیپیتی برای Google شیتها را از بین ببرد. این شرکت همچنین گفت که در حال بازنگری در نحوه تعامل این قابلیت با رابطهای برنامهنویسی Google شیتها و رویکرد ایزولهسازی خود است.
پژوهشگران گفتند که آسیبپذیری را بهصورت مسئولانه افشا کردهاند، اما پس از پیگیریها تنها یک پاسخ خودکار دریافت کردند. آنها همچنین استدلال کردند که مستندات اوپنایآی بهوضوح تواناییهای حساس اعطا شده به مدل را توضیح نمیدهد، از جمله توانایی اجرای اسکریپتهای دارای امتیاز ویژه، یا خطرات ناشی از تزریق غیرمستقیم پرامپت.
این یافتهها به فهرست رو به رشد نگرانیهای امنیتی پیرامون ابزارهای هوش مصنوعی جاسازیشده در نرمافزارهای بهرهوری میافزایند، جایی که سهولت استفاده میتواند بهسرعت تبدیل به افشای گسترده در سراسر حساب شود وقتی به مدل اجازه داده میشود روی دادههای غیرقابلاعتماد عمل کند.
منابع: