Anthropic, sistemlerin kendi haleflerini inşa edebileceği endişesiyle küresel bir yavaşlama çağrısı yaptı
Anthropic duraklama çağrısı yapıyor
Anthropic, yapay zekânın sistemlerin kendi haleflerini oluşturmalarına yardımcı olabilecek bir noktaya doğru ilerlediği konusunda uyarıyor ve bu olasılığın yapay zeka geliştirmesinde küresel bir yavaşlama gerektirdiğini söylüyor.
Şirket bir blog yazısında, halef sistemler geliştirebilen yapay zekânın bilim, sağlık ve diğer alanlarda büyük faydalar sağlayabileceğini, ancak giderek daha yetenekli modeller üzerinde insanların kontrolünü kaybetme riskini de artırabileceğini belirtti. Anthropic, geçici bir duraklama veya yavaşlamanın toplumun ve yapay zeka güvenliği araştırmasının yetişmesine zaman tanıyacağını savundu.
Şirket, bu eğilimin yeterince hızlı ilerlediğini ve bu dönüm noktasının "çoğu kurumun hazırlıklı olduğundan daha erken gelebileceğini" söyledi, ancak henüz orada olmadığımızı ekledi.
Doğrulama en zor kısım olurdu
Anthropic, herhangi bir yavaşlamanın yalnızca dünyanın dört bir yanındaki büyük yapay zeka laboratuvarlarının aynı koşullar altında geliştirmeyi durdurmayı veya azaltmayı kabul etmesi durumunda işe yarayacağını belirtti. Ayrıca rakiplerin gerçekten durduğunu doğrulayacak güvenilir yöntemlerin olması gerektiğini; aksi takdirde bazı kuruluşların gizlice ilerlemeye devam edebileceği konusunda uyardı.
"Anlamlı bir yavaşlama veya duraklama, ön safta olan veya ona yakın birden fazla kaynaklı laboratuvarın, birden fazla ülkede, aynı koşullar altında durmayı kabul etmesini gerektirir," diye yazdı şirket. "Ayrıca her birinin diğerlerinin gerçekten durduğunu doğrulayabilmesi gerekir."
Şirketin önerisi, Mart ayında daha gelişmiş yapay zeka sistemleri ortaya çıktıkça ortaya çıkan zorlukları incelemek için başlattığı araştırma bölümü Anthropic Institute'un çalışmalarına dayanıyor.
Uyarıyı takip eden şüphecilik
Doppler VPN ile gizliliğinizi koruyun
3 gün ücretsiz deneme. Kayıt yok. Günlük yok.
Anthropic'in çağrısı aynı zamanda şüpheciliğe yol açtı. The Wall Street Journal, eleştirmenlerin şirketin kamuya yönelik uyarılarını rakiplerinden daha sorumlu görünme ya da kendi ürünlerinin en güvenli seçenek olduğunu ima etmeye yönelik bir pazarlama stratejisi olarak gördüklerini belirtti.
Bu eleştirmenler, Anthropic'in siber güvenlik modeli Mythos'un sınırlı yayınını işaret ettiler; şirket, bu modelin güvenlik açıklarını bulma yeteneğinin yanlış ellerde verebileceği potansiyel zararlar nedeniyle onu seçilmiş ortaklarla sınırladığını söylemişti.
Bu arada Anthropic, yapay zeka yarışında en önde gelen isimlerden biri ve iddialara göre ilk kârlı çeyreğine doğru ilerliyor. Şirket yakın zamanda halka açılmak için SEC'e evrak sundu; muhtemelen yıl sonundan önce gerçekleşecek.
Kaynaklar:
Daha fazla teknoloji haberi için Doppler VPN Blog sayfasını okuyun.