חוקרים מזהירים: תולעים מונעות בינה מלאכותית עלולות להתפשט באופן אוטונומי ברשתות
בינה מלאכותית הופכת תולעת קלאסית לאיום מהיר ומתפתח
מחקר אבטחת מידע חדש מדליק נורות אזהרה לגבי מה שקורה כאשר תוכנה זדונית אוטונומית פוגשת בינה מלאכותית מודרנית. חוקרים מאוניברסיטת טורונטו הדגימו פרוטוטיפ של תולעת שמונעת על ידי מודלים של בינה מלאכותית שנגישים לציבור, היכולה לנצל פגמי תוכנה ידועים, להתפשט ברשת בדיקה ללא התערבות אנושית ולהתאים את התנהגותה ככל שהיא נעה.
בניגוד לתולעים מסורתיות, שבדרך כלל נבנות על ידי מתכנתים מיומנים כדי לטרגט חולשות ספציפיות, הפרוטוטיפ תוכנן להתאים את התקפותיו לפי מערכות שונות, כולל לינוקס, Windows ומכשירי אינטרנט של הדברים. ככל שהוא מתפשט, הוא יכול לאסוף נתונים, לשאוב סיסמאות ולחפש חולשות נוספות שמסייעות לו להעמיק ברשת. אם נתיב אחד מתוקן, התולעת יכולה לנסות נתיב אחר.
הצוות אמר שהוא בנה את המערכת בסביבה סגורה ומאובטחת והשתמש במודלים פתוחים במשקל (open-weight) עם אמצעי זהירות נרחבים. אף על פי כן, התוצאה הדגימה כיצד ניתן להפוך בינה מלאכותית לנשק שמממש ניצול אוטומטי בקנה מידה שקשה להכיל ברגע שמשתחרר.
תולעת שלומדת תוך כדי תנועה
החוקרים אומרים שהתולעת גם "מזינה" את עצמה על ידי שאיבת כוח עיבוד מהמכונות הנגועות, ומשתמשת במשאבים אלה כדי לשפר את היכולת ההסקתית והאסטרטגיה שלה לתקיפות עתידיות. זה יוצר סוג חדש של כלכלת איום, שבה התוקף כבר לא צריך להשקיע כל כך הרבה זמן או כוח חישובי אחרי ההשקה.
"ההאקרים בדרך כלל נאלצו לתת עדיפות למטרות בעלות ערך גבוה כי הזמן וכוח העיבוד היו מוגבלים," אמר המחבר הראשי Nicolas Papernot. "אבל כעת, אחרי השקת תולעת, העלות תרד לכמעט אפס."
הפרוטוטיפ עדיין מוגבל בהיבט חשוב אחד: הוא יכול לנצל חולשות ידועות, אך אינו יכול לגלות חולשות חדשות בעצמו. זה הופך אותו לפחות מתקדם ממערכות כמו Mythos של Anthropic, שלטענת החברה כבר חשפה יותר מ-10,000 פגיעויות ועזרה לשותפים להגביר את שיעורי מציאת הבאגים בעשרות מונים.
עם זאת, החוקרים מזהירים כי שחקנים זדוניים עלולים לשלב את היכולות הללו. בתסריט כזה, תולעת מבוססת בינה מלאכותית עשויה גם לגלות וגם לנצל פגיעויות טריות, מה שהופך אותה לקשה בהרבה לעצירה.
"בעולם מחובר, אין מערכת שהיא חסינה מפני איום זה," אמר Papernot.
מקורות: