אנתרופיק קוראת להאטה גלובלית בפיתוח בינה מלאכותית מחשש שמערכות יוכלו לבנות יורשים שלהן
אנתרופיק קוראת להפסקה
אנתרופיק מזהירה שבינה מלאכותית מתקדמת לנקודה שבה מערכות עשויות להיות מסוגלות לסייע בבניית יורשיהן, והיא טוענת שהאפשרות הזו צריכה להניע האטה גלובלית בפיתוח בינה מלאכותית.
בפוסט בבלוג אמרה החברה כי בעוד שבינה מלאכותית שמסוגלת לפתח מערכות יורש עשויה להניב יתרונות משמעותיים במדע, ברפואה ובתחומים אחרים, היא עלולה גם להעלות את הסיכון שאנשים יאבדו שליטה על מודלים שהופכים ליותר ויותר בעלי יכולת. אנתרופיק טענה כי עצירה או האטה זמנית תתן לחברה ולמחקר בתחום בטיחות הבינה המלאכותית זמן להשיג איזון.
החברה הוסיפה שהמגמה מתקדמת במהירות כזו שציון דרך זה "עשוי להגיע מוקדם יותר ממה שרוב המוסדות מוכנים לו," אף שהיא עדיין לא כאן.
האימות יהיה החלק הקשה
אנתרופיק אמרה שכל האטה תעבוד רק אם מעבדות בינה מלאכותית מרכזיות ברחבי העולם יסכימו להפסיק או להפחית פיתוח בתנאים זהים. היא הוסיפה שיהיה צורך גם בדרכים אמינות לאמת שהמתחרים אכן עצרו, ואזהירה שאם לא כן ייתכן שחלק מהארגונים ימשיכו להתקדם בסתר.
"האטה משמעותית או הפסקה תדרוש מספר מעבדות בעלות משאבים טובים שנמצאות בקו החזית, במדינות שונות, שיסכימו להפסיק תחת אותם התנאים," כתבה החברה. "זה גם ידרוש שאפשר יהיה לאמת שכל אחת מהן אכן הפסיקה."
ההצעה של החברה נשענת על עבודת מכון אנתרופיק, חטיבת מחקר שהושקה במרץ כדי לחקור את האתגרים העולים ככל שמערכות בינה מלאכותית מתקדמות.
סקפטיות בעקבות האזהרה
הגנו על הפרטיות שלכם עם Doppler VPN
3 ימי ניסיון חינם. ללא הרשמה. ללא לוגים.
קריאותיה של אנתרופיק עוררו גם סקפטיות. הוול סטריט ג'ורנל ציין שמבקרים רואים באזהרות הציבוריות של החברה אסטרטגיית שיווק אפשרית, שמטרתה להציג את אנתרופיק כאחראית יותר מהמתחרות או לרמוז שמוצריה בטוחים יותר.
המתנגדים הצביעו על השחרור המוגבל של מודל אבטחת הסייבר של אנתרופיק, "מיתוס", שלדברי החברה הוגבל לשותפים נבחרים בגלל הנזק הפוטנציאלי שיכולותיו למצוא פגיעויות עלולות לגרום בידי מי שאינם הגורמים הנכונים.
בינתיים, אנתרופיק היא אחת השמות הבולטים במירוץ הבינה המלאכותית ולפי דיווחים צפויה להשיג את הרבעון הרווחי הראשון שלה. לאחרונה היא הגישה מסמכים לרשות לניירות ערך של ארצות הברית במטרה לצאת להנפקה לציבור, כנראה לפני סוף השנה.
מקורות:
קראו עוד חדשות טכנולוגיה ב-[Doppler VPN Blog].