اوپنایآی «حالت قرنطینه» را برای کاهش خطرات تزریق دستور در چتجیپیتی عرضه میکند
اوپنایآی حالت سختگیرانهتری برای چتجیپیتی برای کارهای حساس اضافه میکند
اوپنایآی یک «حالت قرنطینه» جدید برای چتجیپیتی معرفی کرده است، ویژگیای که برای کاهش خطر حملات تزریق دستور طراحی شده است، حملاتی که در آنها دستورهای مخرب در صفحات وب، اسناد یا منابع محتوایی دیگر پنهان میشوند.
شرکت گفت این حالت برای افرادی و سازمانهایی که با دادههای حساس سروکار دارند و میخواهند محافظت قویتری در برابر خطرات خروج داده داشته باشند، هدفگذاری شده است. اوپنایآی گفت این حالت برای همه در نظر گرفته نشده، بلکه برای کاربرانی است که نیاز به کنترلهای سختگیرانهتری در مورد آنچه چتجیپیتی میتواند به آن دسترسی داشته باشد و نحوه پاسخدادن دارد.
حالت قرنطینه چندین ویژگی را که میتواند سطح حمله را گسترش دهد، غیرفعال میکند. کاربران دیگر قادر به استفاده از مرور زنده وب نخواهند بود، یعنی چتجیپیتی فقط میتواند به محتوای ذخیرهشده (کششده) دسترسی داشته باشد. این حالت همچنین بازیابی و نمایش تصاویر از وب را خاموش میکند، هرچند تولید تصویر همچنان کار میکند. علاوه بر این، تحقیق عمیق و حالت عامل غیرفعال میشوند.
اوپنایآی هشدار داد که این تنظیم یک راهحل کامل نیست. حتی با فعالبودن حالت قرنطینه، چتجیپیتی هنوز میتواند نسبت به تزریق دستورهایی که در محتوای کششده وب یا فایلهای بارگذاریشده ظاهر میشوند آسیبپذیر باشد، و اینها همچنان میتوانند بر دقت یا رفتار پاسخ تأثیر بگذارند. هدف شرکت، گفت، این است که احتمال افشای اطلاعات حساس در طول این تعاملات را کاهش دهد.
این عرضه با حسابهای خودسرویس تجاری چتجیپیتی و همچنین حسابهای شخصی واجد شرایط آغاز میشود.
تزریق دستور بهعنوان یک نگرانی رو به رشد برای سیستمهای هوش مصنوعی که از وب و منابع خارجی دیگر میخوانند مطرح شده است، زیرا دستورهای پنهان میتوانند رفتار مدل را بدون اینکه برای کاربر آشکار باشند تغییر دهند. حالت جدید اوپنایآی پاسخی مستقیم به آن خطر است و ابزارهای در دسترس چتجیپیتی را زمانی که کاربران محیطی کنترلشدهتر میخواهند محدود میکند.
منابع:
برای خواندن اخبار بیشتر فناوری به Doppler VPN بلاگ مراجعه کنید.