آمریکا به آنتروپیک دستور داد دسترسی به کلود فِیبل 5 و کلود مایتوس 5 را بهخاطر نگرانیهای مربوط به جِیلبِرِیک قطع کند
مداخله دولت مدلهای جدید آنتروپیک را هدف قرار میدهد
دولت ایالات متحده به آنتروپیک دستور داده است که فوراً دسترسی به دو سیستم پیشرفتهاش، کلود فِیبل 5 و کلود مایتوس 5، را بهخاطر نگرانیهای امنیت ملی مرتبط با یک احتمال جِیلبِرِیک معلق کند.
آنتروپیک گفت که روز جمعه ساعت ۵:۲۱ بعدازظهر بهوقت منطقه شرقی (ET) این دستور را دریافت کرده و اجرا کرده است، و در عین حال استدلال کرده که دولت «این بار اشتباه کرده است». شرکت افزود که این دستور آنها را مجبور میکند دسترسی به هر دو مدل را در سراسر جهان غیرفعال کنند، نه فقط برای اتباع خارجی، با اینکه این اقدام بهعنوان تدبیر کنترل صادرات قاببندی شده بود.
این اقدام در لحظه حساسی برای آنتروپیک رخ میدهد. مایتوس 5 توانمندترین مدل شرکت است و بهخاطر گزارششده تواناییاش در کشف ضعفهای امنیتی در نرمافزار تحت محدودیتهای شدیدی نگه داشته شده بود. آنتروپیک گفت که این مدل را روی سیستمعاملها و مرورگرهای اصلی آزمایش کرده و در هر کدام ضعفهایی یافته است. بهجای انتشار عمومی وسیع، شرکت دسترسی را از طریق پروژه گلسوینگ محدود کرد، برنامهای کنترلشده که حدود 50 سازمان تأییدشده از جمله آمازون، Apple، Google، مایکروسافت و کراوداسترایک را شامل میشد.
فِیبل 5، که فقط سه روز پیش عرضه شده بود، نسخهٔ عمومیتر مایتوس 5 بود که با موانع حفاظتی طراحی شده بود تا موضوعات پرخطر مانند امنیت سایبری و زیستشناسی را مسدود کند. شرکت گفت که معتقد بوده این حفاظها آن را برای عرضه عمومی مناسب میسازد، و تستهای بنچمارک از سوی والز ایآی قبلاً آن را در صدر مدلهای عمومی قرار داده بود.
آنتروپیک گفت که نگرانی دولت بهنظر میرسد حول یک ادعای جِیلبِرِیک فِیبل 5 متمرکز است. به گفتهٔ شرکت، مقامات تنها شواهد شفاهی از یک «جِیلبِرِیک احتمالی، محدود و غیرسراسری» ارائه کردهاند که شامل پرامپتهایی میشود که مدل را وادار میکند یک پایگاه کد را بررسی کند و ضعفهای نرمافزاری را شناسایی نماید. آنتروپیک گفت که این قابلیت قبلاً در مدلهای در دسترس عمومی دیگر نیز وجود دارد، از جمله اوپنایآی جیپیتی-5.5، و بهطور معمول برای کارهای دفاعی در حوزهٔ امنیت سایبری استفاده میشود.
شرکت همچنین استدلال کرد که قویترین حفاظهایش متکی به سیستمهای طبقهبندی مستقل جدا از خود مدل هستند، به این معنا که یک جِیلبِرِیک لزوماً به معنای شکست حفاظتهای زیربنایی در برابر خروجیهای خطرناک نخواهد بود.
با این حال، دستور دولت نشانهٔ روشنی است از اینکه چگونه سریعاً هوش مصنوعی پیشرفته به یک مسئلهٔ امنیت ملی تبدیل میشود — و اینکه چگونه تنظیمکنندهها حاضرند هنگامی که باور دارند یک مدل ممکن است از آستانهای عبور کرده باشد، مداخله کنند.
منابع: