Marekani waagiza Anthropic kukata upatikanaji wa Fable 5 na Mythos 5 kutokana na wasiwasi wa uvunjaji wa vikwazo
Uingiliaji wa serikali unagonga mifano mipya ya Anthropic
Serikali ya Marekani imeagiza Anthropic kusitisha mara moja upatikanaji wa moja ya mifumo yake ya juu ya inteligensi ya bandia, Claude Fable 5 na Claude Mythos 5, ikitaja wasiwasi wa usalama wa taifa unaohusishwa na uwezekano wa uvunjaji wa vikwazo.
Anthropic ilisema ilipokea maagizo hayo Ijumaa saa 5:21 jioni ET na imeyafuata, wakati ikidai pia serikali "imekosea katika hili." Kampuni ilisema agizo hilo linaitaka kuzima upatikanaji wa mifano yote hii kote ulimwenguni, sio tu kwa raia wa kigeni, ingawa hatua hiyo ilizingatiwa kama hatua ya udhibiti wa kuhamisha teknolojia nje ya nchi.
Hatua hiyo inajia wakati mgumu kwa Anthropic. Mythos 5 ni mfano wenye uwezo mkubwa zaidi wa kampuni na ulikuwa umehifadhiwa kwa vikwazo vikali kwa sababu ya uwezo wake ulioorodheshwa wa kugundua mapungufu ya usalama katika programu. Anthropic ilisema ilikuwa imetembelea mfano huo kwenye mifumo mikubwa ya uendeshaji na vivinjari na kupata hatari katika kila moja. Badala ya kuutoa kwa umma kwa wingi, kampuni ilipunguza upatikanaji kupitia Project Glasswing, programu iliyodhibitiwa inayohusisha takriban mashirika 50 yaliyothibitishwa ikiwa ni pamoja na Amazon, Apple, Google, Microsoft na CrowdStrike.
Fable 5, iliyotolewa siku tatu zilizopita, ilikuwa toleo la Anthropic lililoonekana kwa umma la Mythos 5, lililotengenezwa na vikwazo vya usalama ili kuzuia mada zenye hatari kubwa kama usalama wa mtandao na biolojia. Kampuni ilisema ilikuwa ikiamini vikwazo hivyo vilifanya iwe salama kwa utoaji wa umma, na majaribio ya kiwango kutoka Vals AI tayari yaliikuwa yamemuweka juu katika uwanja wa umma.
Anthropic alisema wasiwasi wa serikali unaonekana kuzunguka madai ya uvunjaji wa vikwazo vya Fable 5. Kwa mujibu wa kampuni, maafisa wameruhusu tu ushahidi wa mdomo wa "uwezekano wa uvunjaji mdogo, usio wa ulimwengu mzima" unaohusisha maelekezo (prompts) yangeyafanya mfano huo kuchanganua msimbo na kutambua dosari za programu. Anthropic alisema uwezo huo tayari upo katika mifano mingine inayopatikana hadharani, ikiwa ni pamoja na GPT-5.5 ya OpenAI, na hutumika mara kwa mara kwa kazi za ulinzi wa usalama wa mtandao.
Kampuni pia ilibishia kuwa kinga zake kuu zinategemea mifumo huru za uainishaji (classifier systems) zilizo tofauti na mfano mwenyewe, ikimaanisha uvunjaji wa vikwazo hauwezi lazima kuvunja ulinzi uliopo dhidi ya matokeo hatari.
Hata hivyo, agizo la serikali ni ishara kali ya jinsi inteligensi ya bandia iliyosonga mbele inavyokuwa suala la usalama wa taifa — na jinsi wakurugenzi wa sheria wanavyo kuwa tayari zaidi kuingilia kati wanapoamini mfano umevuka kikomo fulani.
Vyanzo: