Anthropic menyeru perlambatan global dalam pembangunan AI kerana bimbang sistem boleh membina penerus sendiri

Anthropic menggesa jeda

Anthropic memberi amaran bahawa kecerdasan buatan sedang menuju ke tahap di mana sistem mungkin dapat membantu membina penerus mereka sendiri, dan mengatakan kemungkinan itu harus mendorong perlambatan pembangunan AI di seluruh dunia.

Dalam satu catatan blog, syarikat itu berkata bahawa walaupun AI yang mampu membangunkan sistem penerus boleh membawa manfaat besar dalam bidang sains, penjagaan kesihatan dan bidang lain, ia juga boleh meningkatkan risiko manusia kehilangan kawalan ke atas model yang semakin berupaya. Anthropic berhujah bahawa henti sementara atau perlambatan akan memberi masa kepada masyarakat dan penyelidikan keselamatan AI untuk mengejar.

Syarikat itu berkata trend ini bergerak dengan cukup pantas sehingga pencapaian ini “boleh tiba lebih awal daripada yang disediakan oleh kebanyakan institusi,” walaupun ia belum berlaku lagi.

Pengesahan akan menjadi bahagian paling sukar

Anthropic berkata sebarang perlambatan hanya akan berkesan jika makmal AI utama di seluruh dunia bersetuju untuk menghentikan atau mengurangkan pembangunan di bawah syarat yang sama. Ia juga berkata perlu ada cara yang boleh dipercayai untuk mengesahkan bahawa pesaing sebenarnya telah berhenti, memberi amaran bahawa jika tidak, beberapa organisasi boleh terus maju secara rahsia.

“Satu perlambatan atau henti yang bermakna memerlukan beberapa makmal yang berbekalkan sumber yang mencukupi di atau hampir di barisan hadapan, di beberapa negara, bersetuju untuk berhenti di bawah syarat yang sama,” tulis syarikat itu. “Ia juga memerlukan agar setiap satu dapat mengesahkan bahawa yang lain sebenarnya telah berhenti.”

Cadangan syarikat itu berasaskan kerja dari Anthropic Institute, sebuah bahagian penyelidikan yang dilancarkannya pada bulan Mac untuk mengkaji cabaran yang timbul apabila sistem AI menjadi lebih maju.

Skeptisisme mengiringi amaran itu

Seruan Anthropic juga menimbulkan skeptisisme. The Wall Street Journal menyatakan bahawa pengkritik melihat amaran awam syarikat itu sebagai kemungkinan strategi pemasaran, bertujuan menjadikan Anthropic kelihatan lebih bertanggungjawab daripada pesaing atau mencadangkan produk mereka sendiri sebagai pilihan yang paling selamat.

Pengkritik itu menunjuk kepada pelepasan terhad model keselamatan siber Anthropic, Mythos, yang menurut syarikat itu dihadkan kepada rakan terpilih kerana potensi bahaya yang kebolehan menemui kelemahan itu boleh sebabkan jika jatuh ke tangan yang salah.

Sementara itu, Anthropic adalah salah satu nama paling terkenal dalam perlumbaan AI dan dilaporkan berada di landasan untuk suku tahun beruntung pertama mereka. Ia baru-baru ini mengemukakan dokumen kepada SEC untuk menjadi syarikat awam, kemungkinan sebelum penghujung tahun.

Sumber:

• engadget.com

Baca lebih banyak berita teknologi di Doppler VPN Blog.