محققان هشدار میدهند: کرمهای مجهز به هوش مصنوعی میتوانند بهطور خودکار در شبکهها پخش شوند
هوش مصنوعی یک کرم کلاسیک را به تهدیدی سریعتر و تطبیقپذیر تبدیل میکند
یک مطالعه جدید در حوزه امنیت سایبری درباره تبعات برخورد بدافزارِ خودمختار با هوش مصنوعی مدرن هشدار میدهد. محققان دانشگاه تورنتو نمونهای اولیه از کرمی را نشان دادند که با استفاده از مدلهای هوش مصنوعیِ عمومیِ در دسترس ساخته شده و میتواند از ضعفهای شناختهشدهٔ کامپیوتری سوءاستفاده کند، بدون دخالت انسان در یک شبکه آزمایشی منتشر شود و رفتار خود را در حین حرکت تطبیق دهد.
برخلاف کرمهای سنتی که معمولاً توسط برنامهنویسان ماهر برای هدفگذاری آسیبپذیریهای خاص ساخته میشدند، این نمونهٔ اولیه طوری طراحی شده بود که حملاتش را بر اساس سیستمهای مختلف از جمله لینوکس، Windows و دستگاههای اینترنت اشیاء تنظیم کند. در حین گسترش، میتواند داده جمعآوری کند، گذرواژهها را استخراج کند و به دنبال ضعفهای اضافی بگردد که به آن کمک میکند عمیقتر وارد شبکه شود. اگر یک مسیر وصله شود، کرم میتواند مسیر دیگری را امتحان کند.
تیم تحقیق گفت که این سیستم را در یک محیط بسته و ایمن ساخته و از مدلهای هوش مصنوعیِ دارای وزنِ باز و در دسترس استفاده کرده و احتیاطهای گستردهای را بهکار بردهاند. با این حال، نتیجه نشان داد که چگونه هوش مصنوعی میتواند برای خودکارسازی بهرهبرداری (exploitation) در مقیاسی که پس از رهاسازی دشوار کنترلپذیر است، به سلاح تبدیل شود.
کرمی که در حین حرکت یاد میگیرد
محققان میگویند کرم همچنین خودش را با مکیدن توان پردازشی از دستگاههای آلوده «تأمین» میکند و از آن منابع برای بهبود استدلال و استراتژی حملات بعدی استفاده میکند. این یک نوع اقتصاد تهدید جدید خلق میکند، جایی که مهاجم پس از راهاندازی دیگر لازم نیست آنقدر زمان یا منابع محاسباتی صرف کند.
«هکرها معمولاً مجبور بودند اهداف با ارزش بالا را اولویتبندی کنند چون زمان و منابع محاسباتی محدود بود،» گفت نویسندهٔ ارشد Nicolas Papernot. «اما اکنون، هنگامی که یک کرم راهاندازی شود، هزینه تقریباً به صفر میرسد.»
نمونهٔ اولیه هنوز در یک جنبهٔ مهم محدود است: میتواند از نقصهای شناختهشده سوءاستفاده کند اما خودِ کرم قادر به کشف نقصهای جدید نیست. این امر آن را کمتر پیشرفته از سیستمهای هوش مصنوعیای مانند میثوسِ آنتروپیک میسازد، سیستمی که شرکت سازنده میگوید بیش از ۱۰٬۰۰۰ آسیبپذیری را کشف کرده و به شرکا کمک کرده نرخ یافتن اشکال را بیش از ده برابر افزایش دهند.
با این حال محققان هشدار میدهند که بازیگران مخرب میتوانند آن قابلیتها را ترکیب کنند. در چنین سناریویی، یک کرم هوش مصنوعی ممکن است هم آسیبپذیریهای تازه را پیدا کند و هم از آنها سوءاستفاده کند، و متوقفسازیاش را بسیار دشوارتر سازد.
«در دنیای بههمپیوسته، هیچ سیستمی در برابر این تهدید مصون نیست،» گفت Papernot.
منابع: