آنتروپیک خواستار کند شدن جهانی توسعه هوش مصنوعی بهخاطر نگرانی از توانایی سیستمها در ساخت جانشینان خود شد
آنتروپیک خواستار توقف موقت شد
آنتروپیک هشدار میدهد که هوش مصنوعی در حال پیشرفت به نقطهای است که ممکن است سیستمها بتوانند در ساخت جانشینانِ خود کمک کنند، و میگوید این احتمال باید موجب کند شدن جهانی در توسعه هوش مصنوعی شود.
در یک پست وبلاگی، شرکت گفت که هرچند هوش مصنوعیای که قادر به توسعه سیستمهای جانشین باشد میتواند منافع بزرگی در علم، بهداشت و درمان و دیگر حوزهها به همراه داشته باشد، اما میتواند خطر از دست دادن کنترل انسانها بر مدلهای روزافزون توانمند را نیز افزایش دهد. آنتروپیک استدلال کرد که یک توقف موقت یا کندسازی به جامعه و پژوهشهای ایمنی هوش مصنوعی زمان میدهد تا خود را وفق دهند.
شرکت گفت این روند آنقدر سریع پیش میرود که این نقطه عطف «ممکن است زودتر از آنچه اکثر نهادها برایش آمادهاند رخ دهد»، هرچند هنوز فرا نرسیده است.
تایید کردن بخش دشوار ماجرا خواهد بود
آنتروپیک گفت هر کندسازی تنها در صورتی مؤثر خواهد بود که آزمایشگاههای بزرگ هوش مصنوعی در سراسر جهان زیر یک مجموعه شرایط موافقت کنند که توسعه را متوقف یا کاهش دهند. همچنین گفت لازم است روشهای قابلاطمینانی برای تایید اینکه رقبای دیگر واقعاً متوقف شدهاند وجود داشته باشد و هشدار داد در غیر این صورت برخی سازمانها ممکن است بهطور مخفیانه به پیشروی ادامه دهند.
«یک کندسازی یا توقف معنادار نیازمند چندین آزمایشگاه پرمنابع در یا نزدیک جبهه پیشرفت، در چندین کشور است که توافق کنند تحت همان شرایط متوقف شوند»، شرکت نوشت. «همچنین نیازمند این است که هر یک بتواند تایید کند دیگران واقعاً متوقف شدهاند.»
پیشنهاد شرکت بر پایه کارهای موسسه آنتروپیک استوار است، بخشی پژوهشی که در ماه مارس برای بررسی چالشهایی که با پیشرفت سیستمهای هوش مصنوعی پدید میآیند، راهاندازی شد.
تردیدها پس از این هشدار
از حریم خصوصی خود با Doppler VPN محافظت کنید
۳ روز استفاده رایگان. بدون ثبتنام. بدون گزارش.
فراخوان آنتروپیک همچنین با تردید مواجه شده است. وال استریت ژورنال اشاره کرد که منتقدان هشدارهای علنی شرکت را بهعنوان یک استراتژی بازاریابی احتمالی میبینند که هدفش جلوهدادن آنتروپیک بهعنوان مسئولتر از رقبایش یا القای اینکه محصولات خود شرکت امنترین گزینه هستند، است.
آن منتقدان به انتشار محدود مدل امنیت سایبری آنتروپیک، میثوس، اشاره کردهاند؛ مدلی که شرکت گفت بهدلیل احتمال آسیبهایی که تواناییهای کشف آسیبپذیری آن در دستهای نادرست میتواند ایجاد کند، محدود به شرکای منتخب شده است.
در همین حال، آنتروپیک یکی از نامهای برجسته در رقابت هوش مصنوعی است و بنا بر گزارشها در مسیر دستیابی به اولین سهماهه سودده خود قرار دارد. این شرکت اخیراً مدارکی برای عرضه عمومی سهام نزد کمیسیون بورس و اوراق بهادار ایالات متحده ارائه کرده است، که احتمالاً پیش از پایان سال رخ خواهد داد.
منابع:
برای کسب اخبار بیشتر در زمینه فناوری، به وبلاگ Doppler VPN مراجعه کنید.