חברת אבטחה: תוסף ChatGPT ל‑Google Sheets עלול לדלות נתוני משתמש
תוסף ChatGPT חשוף לניצול ברחבי הגיליון
חברת אבטחה טוענת שמצאה דרך לגרום לתוסף ChatGPT ל‑Google Sheets לדלות נתונים מחשבון הקורבן, מה שמעלה דאגות חדשות לגבי כלי AI של צד שלישי שיכולים לפעול על מסמכים עסקיים רגישים.
הבעיה נובעת מהתקפת הזרקת פרומפט עקיפה שיכולה להתחיל משאילתה אחת שנראית תמימה בגיליון אחד. לפי החוקרים, אותה אינטראקציה בודדת עלולה להספיק כדי להפעיל השפעות רחבות יותר על פני חשבון המשתמש, כולל גניבת נתונים ממספר חוברות עבודה והחלפת סרגל הצד של ChatGPT בממשק הנשלט על ידי התוקף.
ההתקפה אינה תלויה באישורים שמבצע אדם בכל שלב. החוקרים ציינו שהיא מצליחה גם כאשר המשתמש הפעל הגדרות שנועדו לדרוש אישור אנושי לפני ש‑ChatGPT עורך חוברות עבודה, כולל בקרת "Apply edits automatically". בבדיקותיהם, תוכן שאינו מהימן בתוך גיליון — או תוכן שנמשך באמצעות מחבר של ChatGPT — יכלו למנפל את המודל להריץ סקריפט חיצוני הנשלט על ידי התוקף באמצעות ההרשאות שכבר ניתנו לתוסף.
OpenAI השיקה לאחרונה את התוסף ל‑Google Sheets, שאסף יותר מ‑185,000 הורדות בפחות מחודש. התוסף מאפשר למשתמשים אינטראקציה עם גיליונות דרך סרגל הצד של ChatGPT וגם למשוך נתונים ממחברים של ChatGPT.
בעדכון שנמסר לאחר שיתוף הממצאים, OpenAI אמרה שננקטו צעדים מיידיים להגנת המשתמשים על‑ידי הסרת היכולת של המודל לייצר קוד Apps Script, מה שלדבריה אמור לחסל את הסיכון למשתמשי ChatGPT ל‑Google Sheets. החברה הוסיפה שהיא מעריכה מחדש כיצד התכונה מתקשרת עם ממשקי API של Google Sheets ואת גישת הסנדבוקס שלה.
החוקרים אמרו כי דיווחו באופן אחראי על הפגיעות, אך לאחר מעקבים קיבלו רק תגובה אוטומטית. הם גם טענו שהתיעוד של OpenAI אינו מפרט באופן ברור את היכולות הרגישות שניתנות למודל, כולל היכולת להפעיל סקריפטים עם הרשאות מיוחדות, או את הסיכונים שנובעים מהזרקת פרומפט עקיפה.
הממצאים מצטרפים לרשימה הולכת וגדלה של חששות ביטחוניים סביב כלי AI המשולבים בתוכנות פרודוקטיביות, שבהן הנוחות עלולה במהירות להפוך לחשיפה על‑רמת‑חשבון כאשר מתיר המודל לפעול על נתונים שאינם מהימנים.
מקורות: