OpenAI משיקה מצב נעילה כדי לצמצם סיכוני הזרקת פקודות ב‑ChatGPT
OpenAI מוסיפה מצב מחמיר יותר ל‑ChatGPT לעבודה עם מידע רגיש
OpenAI הציגה 'מצב נעילה' חדש עבור ChatGPT, תכונה שנועדה להפחית את הסיכון להתקפות הזרקת פקודות, שבהן הוראות זדוניות מוסתרות בתוך דפי ווב, מסמכים או מקורות תוכן אחרים.
החברה אמרה שהמצב מיועד לאנשים וארגונים שעובדים עם נתונים רגישים ומעוניינים בהגנה מוגברת מפני סיכוני דליפת נתונים. זה אינו מיועד לכל אחד, אמרה OpenAI, אלא למשתמשים שצריכים שליטה הדוקה יותר על מה ש‑ChatGPT יכול לגשת אליו וכיצד הוא מגיב.
מצב הנעילה מבטל מספר תכונות שיכולות להרחיב את משטח ההתקפה. משתמשים לא יוכלו להשתמש בגלישה חיה באינטרנט, כלומר ChatGPT יוכל לגשת רק לתוכן שנשמר במטמון. המצב גם מכבה אחזור ותצוגת תמונות מהרשת, אף שיצירת תמונות עדיין פועלת. בנוסף, מחקר מעמיק ומצב סוכנים מושבתים.
OpenAI הזהירה שההגדרה אינה פתרון מלא. אפילו עם מצב נעילה מופעל, ChatGPT עדיין עלול להיות פגיע להזרקות פקודות שמופיעות בתוכן מהאינטרנט שנשמר במטמון או בקבצים שהועלו, ואלו עדיין עלולות להשפיע על הדיוק או על התנהגות התשובה. המטרה של החברה, היא אמרה, היא להפחית את הסיכוי שפרטים רגישים ייחשפו במהלך אינטראקציות אלו.
הפריסה מתחילה בחשבונות ChatGPT Business של שירות עצמי, יחד עם חשבונות אישיים כשעומדים בקריטריונים.
הזרקת פקודות הפכה לדאגה מתגברת עבור מערכות בינה מלאכותית שקוראות מהאינטרנט וממקורות חיצוניים אחרים, משום שהוראות מוסתרות יכולות לשנות את התנהגות המודל מבלי להיות ברורות למשתמש. המצב החדש של OpenAI הוא תגובה ישירה לסיכון הזה, המצמצמת את הכלים הזמינים ל‑ChatGPT כשמשתמשים רוצים סביבה מבוקרת יותר.
מקורות:
קראו עוד חדשות טכנולוגיה בבלוג Doppler VPN.