Nanawagan ang Anthropic ng pandaigdigang paghina sa pag-unlad ng artipisyal na intelihensiya dahil sa pangamba na maaaring makabuo ng mga kahalili ang mga sistema
Nananawagan ang Anthropic ng pansamantalang paghinto
Nagbababala ang Anthropic na ang artipisyal na intelihensiya ay umuunlad patungo sa puntong maaaring makatulong ang mga sistema sa paggawa ng kanilang sariling mga kahalili, at sinasabi nila na ang posibilidad na iyon ay dapat mag-udyok ng pandaigdigang paghina sa pag-unlad ng artipisyal na intelihensiya.
Sa isang post sa blog, sinabi ng kumpanya na habang ang artipisyal na intelihensiya na may kakayahang bumuo ng mga sistemang kahalili ay maaaring maghatid ng malalaking benepisyo sa agham, pangangalagang pangkalusugan at iba pang larangan, maaari rin nitong taasan ang panganib na mawalan ng kontrol ang mga tao sa mga modelong lalong nagiging kapaki-pakinabang. Ipinaglaban ng Anthropic na ang isang pansamantalang paghinto o paghina ay magbibigay ng panahon sa lipunan at sa pananaliksik sa kaligtasan ng artipisyal na intelihensiya upang makahabol.
Sinabi ng kumpanya na mabilis ang paggalaw ng trend na ito na ang milestone na ito “ay maaaring dumating nang mas maaga kaysa sa paghahanda ng karamihan sa mga institusyon,” kahit na hindi pa ito naroroon.
Ang pagpapatunay ang magiging mahirap na bahagi
Sinabi ng Anthropic na ang anumang paghina ay gagana lamang kung ang mga pangunahing laboratoryo ng artipisyal na intelihensiya sa buong mundo ay sasang-ayon na itigil o bawasan ang pag-unlad sa ilalim ng parehong mga kondisyon. Sinabi rin nito na kailangang magkaroon ng maaasahang mga paraan para patunayan na talagang huminto ang mga kakompetensya, nagbabala na kung hindi ay maaaring magpatuloy ang ilang mga organisasyon sa pag-usad nang lihim.
“Ang makabuluhang paghina o pansamantalang paghinto ay mangangailangan ng maraming laboratoryong may sapat na pondo na nasa o malapit sa hangganan ng pag-unlad, sa maraming bansa, na sumasang-ayon na itigil ito sa ilalim ng parehong mga kondisyon,” sulat ng kumpanya. “Mangangailangan din ito na bawat isa ay makapagpapatunay na talagang huminto ang iba.”
Nakabatay ang panukala ng kumpanya sa gawain mula sa Anthropic Institute, isang dibisyon ng pananaliksik na inilunsad nito noong Marso upang pag-aralan ang mga hamong lumilitaw habang nagiging mas advanced ang mga sistema ng artipisyal na intelihensiya.
Sumunod ang pag-aalinlangan sa babala
Protektahan ang iyong privacy gamit ang Doppler VPN
3-araw na libreng trial. Walang rehistrasyon. Walang log.
Nagdulot din ng pag-aalinlangan ang panawagan ng Anthropic. Binanggit ng The Wall Street Journal na nakikita ng mga kritiko ang mga pampublikong babala ng kumpanya bilang posibleng estratehiya sa marketing, na naglalayong ipakita ang Anthropic na mas responsable kaysa sa mga kalaban o magmungkahi na ang sariling mga produkto nito ang pinakaligtas na opsyon.
Tinukoy ng mga kritiko ang limitadong paglabas ng modelo ng cybersecurity ng Anthropic na Mythos, na sinabi ng kumpanya na inili-limit lamang sa piling mga kasosyo dahil sa potensyal na pinsalang maaaring idulot ng kakayahan nitong maghanap ng kahinaan kapag napunta sa maling mga kamay.
Samantala, ang Anthropic ay isa sa mga pinakakilalang pangalan sa karera ng artipisyal na intelihensiya at ayon sa mga ulat ay nasa landas patungo sa unang kumikitang quarter. Kamakailan ay nagsumite ito ng mga papeles sa SEC para magpa-IPO, malamang bago matapos ang taon.
Mga Pinagmulan:
Magbasa pa ng mga balita sa teknolohiya sa Doppler VPN Blog.