Anthropic menyerukan perlambatan global dalam pengembangan AI karena khawatir sistem bisa membangun penerusnya

Anthropic urges a pause

Anthropic memperingatkan bahwa kecerdasan buatan bergerak menuju titik di mana sistem mungkin mampu membantu membangun penerus mereka sendiri, dan perusahaan mengatakan kemungkinan itu seharusnya mendorong perlambatan global dalam pengembangan AI.

Dalam sebuah posting blog, perusahaan menyatakan bahwa meskipun AI yang mampu mengembangkan sistem penerus dapat memberikan manfaat besar dalam ilmu pengetahuan, layanan kesehatan, dan bidang lain, hal itu juga dapat meningkatkan risiko manusia kehilangan kendali atas model yang semakin canggih. Anthropic berpendapat bahwa jeda sementara atau perlambatan akan memberi waktu bagi masyarakat dan penelitian keselamatan AI untuk mengejar ketertinggalan.

Perusahaan mengatakan tren ini bergerak cukup cepat sehingga tonggak tersebut “bisa datang lebih cepat daripada yang dipersiapkan kebanyakan institusi,” meskipun belum terjadi saat ini.

Verification would be the hard part

Anthropic mengatakan bahwa setiap perlambatan hanya akan berhasil jika laboratorium AI besar di seluruh dunia setuju untuk berhenti atau mengurangi pengembangan dengan kondisi yang sama. Mereka juga mengatakan perlu ada cara yang andal untuk memverifikasi bahwa pesaing benar-benar menghentikan pengembangan, memperingatkan bahwa jika tidak, beberapa organisasi mungkin terus maju secara diam-diam.

“Perlambatan atau jeda yang berarti akan membutuhkan beberapa laboratorium yang memiliki sumber daya besar tepat di atau dekat garis depan, di beberapa negara, yang setuju untuk berhenti dengan kondisi yang sama,” tulis perusahaan itu. “Ini juga akan membutuhkan agar masing-masing dapat memverifikasi bahwa pihak lain benar-benar telah berhenti.”

Proposal perusahaan ini didasarkan pada pekerjaan dari Anthropic Institute, divisi penelitian yang diluncurkannya pada bulan Maret untuk mempelajari tantangan yang muncul seiring sistem AI menjadi lebih maju.

Skepticism follows the warning

Seruan Anthropic juga menuai skeptisisme. Wall Street Journal mencatat bahwa para pengkritik melihat peringatan publik perusahaan sebagai kemungkinan strategi pemasaran, yang bertujuan membuat Anthropic terlihat lebih bertanggung jawab dibanding pesaing atau menyiratkan produk mereka sendiri adalah pilihan teraman.

Para pengkritik menunjuk pada rilis terbatas model keamanan siber Anthropic, Mythos, yang menurut perusahaan dibatasi untuk mitra terpilih karena kemampuan menemukan kerentanan yang berpotensi membahayakan jika jatuh ke tangan yang salah.

Sementara itu, Anthropic adalah salah satu nama paling menonjol dalam perlombaan AI dan dilaporkan sedang dalam jalur untuk kuartal laba pertamanya. Perusahaan baru-baru ini mengajukan dokumen kepada SEC untuk go public, kemungkinan sebelum akhir tahun.

Sumber:

• engadget.com

Baca lebih banyak berita teknologi di Doppler VPN Blog.