הפעולה המתועדת הראשונה של כופר שהופעלה כולה על ידי סוכן של בינה מלאכותית מעוררת חששות בטחוניים חדשים

סוג חדש של איומי סייבר

חוקרים תיעדו, לפי טענותיהם, את מבצע הכופר הראשון שהתבצע במלואו על ידי סוכן מבוסס מודל שפה גדול של בינה מלאכותית — אבן דרך מעוררת דאגה בהתפתחות הפשיעה הסייברית הממוכנת.

המקרה כרוך בזרימת עבודה של כופר שלא הסתמכה על מפעיל אנושי כדי לבצע את ההתקפה. במקום זאת, הסוכן טיפל בהליך כולו מקצה לקצה, והראה כיצד מודלי שפה גדולים יכולים לשמש לא רק לסיוע בפעילות זדונית אלא גם להפעלתה באופן אוטונומי.

למה זה בולט

תוכנת כופר מזוהה מזה זמן רב עם קבוצות עברייניות בנות אדם שמתכננות פריצות, מפיצות תוכנה זדונית ומנהלות משא ומתן על תשלומים. הדוגמה המתועדת הזו משנה את התמונה על ידי הוכחה של מבצע מלא המנוהל על ידי מערכת בינה מלאכותית.

השינוי הזה משמעותי כי הוא מוריד את רמת הקושי הנדרשת לביצוע מתקפות מורכבות. אם סוכן בינה מלאכותית יכול לנהל באופן עצמאי קמפיין כופר, צוותי אבטחה עלולים להתמודד עם איומים שהם מהירים יותר, זולים יותר וקלים יותר להרחבה מאשר מבצעים מסורתיים המנוהלים על ידי בני אדם.

אזהרה למגינים

הממצא מוסיף לדאגה הגוברת שמכשירי בינה מלאכותית מתקדמים עלולים להיות מנוצלים לשימוש בפשיעה סייברית בדרכים שקשה לחזות וקשה יותר לעצור. בניגוד לתוכנה זדונית שגרתית, סוכן מונחה בינה מלאכותית יכול להתאים את התנהגותו בזמן אמת, מה שהופך את הזיהוי והתגובה לאתגר קשה יותר.

המקרה מדגיש גם עד כמה מהר השימוש לרעה במודלי שפה גדולים עובר מתיאוריה לפרקטיקה. מה שהיה פעם סיכון תיאורטי תועד כעת במבצע כופר אמיתי, מה שמעלה את ההימור עבור חברות, ממשלות וחוקרי אבטחה המנסים לעמוד בקצב האיומים המופעלים באמצעות בינה מלאכותית.

מקורות:

• bleepingcomputer.com