הבית הלבן לדברי דיווחים דוחף את אופן־איי להגביל את שחרור ג'י־פי־טי 5.6 בגלל חששות בטיחות
הבית הלבן מבקש מאופן־איי להאט את השקת ג'י־פי־טי 5.6
הבית הלבן, לפי דיווחים, לוחץ על אופן־איי לדחות את השחרור לציבור של המודל הבא שלה, ג'י־פי־טי 5.6, בגלל חששות בטיחות, כך לפי דה אינפורמיישן. במקום השקה רחבה, נאמר שאופן־איי מתכוננת להשקה מוגבלת לקבוצה קטנה של שותפים קרובים בזמן שהמודל עובר סקר ממשלתי.
בפגישה השבוע, מנכ"ל אופן־איי סם אלטמן אמר, לפי הדיווחים, לעובדים שהגישה תהיה "מאשרת לקוח־לקוח" בתקופת התצוגה המקדימה. אם הטיוטה תעבור בצורה חלקה, אמר אלטמן כי החברה מקווה לעקוב עם שחרור רחב יותר בעוד כמה שבועות.
הבקשה המדווחת מגיעה ממשרד המנהל הלאומי לסייבר וממשרד מדע ומדיניות הטכנולוגיה, שלטענת הדיווחים עבדו בצמידות עם אופן־איי על המודל הקרוב. ההסדר הזה יסמן שינוי בולט בהשוואה להשקות הציבוריות הקודמות של אופן־איי, והוא משקף סוג של גישה מוגבלת שכבר נעשה בה שימוש על ידי אנתרופיק עם כמה ממערכותיה החזקות ביותר.
ממשל טראמפ, שתחילה הציג את עצמו כנוקט בגישת לא־התערבות כלפי בינה מלאכותית, עבר לאחרונה לעבר פיקוח ישיר יותר. בתחילת החודש חתם טראמפ על צו מנהלי שהנחה חברות AI מסוימות להגיש בהתנדבות דגמים חדשים לבדיקה והערכה ממשלתית לפני השחרור לציבור.
הזהירות המדווחת משקפת דאגה הולכת ומתרחבת סביב מערכות בינה מלאכותית פורצות דרך עם יכולות סייבר. כלי בינה מלאכותית גנרטיביים כבר שימשו לכתיבת תוכנות זדוניות, וחלקם יכולים לבצע חלקים מהתקפות כופרה באופן אוטונומי. החשש לגבי דגמי סייבר חדשניים הוא שהם עלולים לזהות ולנצל פגיעויות תוכנה ברמה הרבה יותר גבוהה ממודלים קודמים.
אנתרופיק משכה תשומת לב בתחילת השנה כאשר הגבילה גישה למודל הסייבר פורץ הדרך שלה, קלוד מיתוס, דרך תוכנית לשותפים בלבד בשם פרויקט גלאסווינג. החברה אמרה שהמודל חזק מדי לשחרור נרחב. עמדת זו עוררה ספקנות בקרב חלק מהמבקרים, אך הוויכוח הרחב יותר על איך לאזן בין יכולת לשימוש לרעה רק התגבר ככל שמודלים מתקדמים יותר מתקרבים לשחרור.
מקורות: