Anthropic yaita kupunguza kasi ya maendeleo ya AI duniani kwa hofu kwamba mifumo zinaweza kujijengea wafuasi

Anthropic inahimiza kusitisha kwa muda

Anthropic inatoa tahadhari kwamba akili bandia inaendelea kuelekea hatua ambapo mifumo inaweza kusaidia kujenga wafuasi wao wenyewe, na inasema uwezekano huo unapaswa kusababisha kupunguza kasi kwa maendeleo ya AI kote duniani.

Katika chapisho la blogu, kampuni hiyo ilisema kwamba wakati AI inayoweza kuunda mifumo ya wafuasi inaweza kuleta faida kubwa katika sayansi, afya na nyanja nyingine, pia inaweza kuongeza hatari ya wanadamu kupoteza udhibiti juu ya mifano inayoongezeka uwezo. Anthropic ilibainisha kwamba kusitisha kwa muda au kupunguza kasi kungeweza kumpa jamii na utafiti wa usalama wa AI wakati wa kufikia hatua hiyo.

Kampuni hiyo ilisema mwelekeo unaenda haraka vya kutosha kwamba hatua hii “inaweza kuja kabla ya taasisi nyingi kuzifanyia maandalizi,” ingawa bado haijafika.

Uthibitisho utakuwa sehemu ngumu

Anthropic ilisema kupunguza kasi kutaweza kufanikiwa tu iwapo maabara makubwa ya AI ulimwenguni kote zitaikubali kusitisha au kupunguza maendeleo chini ya masharti yale yale. Pia ilisema kutakuwa na haja ya njia za kuaminika za kuthibitisha kwamba wapinzani walikuwa kweli wamesitisha, ikionya kwamba vinginevyo baadhi ya mashirika yanaweza kuendelea kuboreshwa kwa siri.

"Kupunguza kasi au kusitisha kwa maana litahitaji maabara nyingi zenye rasilimali nzuri zilizo karibu mstari wa mbele, katika nchi nyingi, zikikubali kusitisha chini ya masharti yale yale," kampuni iliiandika. "Pia itahitaji kila moja kuthibitisha kwamba zingine kwa kweli zimesitisha."

Mapendekezo ya kampuni yanaegemea kazi kutoka Anthropic Institute, kitengo cha utafiti kilichoanzishwa mwezi Machi ili kusoma changamoto zinazoibuka wakati mifumo ya AI inavyoongezeka kwa ujuzi.

Shaka zafuata onyo

Wito wa Anthropic pia umepokelewa kwa shaka. The Wall Street Journal ilibainisha kwamba wakosoaji wanaona onyo la umma la kampuni hiyo kama mkakati wa uuzaji, uliopewa lengo la kufanya Anthropic ionekane hukumu zaidi kuliko wapinzani au kupendekeza bidhaa zake kuwa chaguo salama zaidi.

Wakosoaji hao wameonyesha toleo lililodhibitiwa la kielelezo cha usalama wa mtandao cha Anthropic, Mythos, ambacho kampuni ilisema kilikuwa kinazipa haki kwa washirika waliochaguliwa kwa sababu ya uharibifu unaoweza kutokea kutokana na uwezo wake wa kugundua udhaifu ikiwa utatumika vibaya.

Anthropic, kwa upande mwingine, ni moja ya majina mashuhuri katika mbio za AI na inaripotiwa kuwa inaelekea kupata robo ya kwanza yenye faida. Hivi karibuni iliwasilisha nyaraka kwa SEC ili kwenda sokoni, kwa wingi kabla ya mwisho wa mwaka.

Vyanzo:

• engadget.com

Soma habari zaidi za teknolojia kwenye Doppler VPN Blog.