Watafiti wataonya minyoo zinazoendeshwa na AI zinaweza kusambaa kwa kujitegemea kwenye mitandao
AI inageuza minyoo ya jadi kuwa tishio la haraka, linalobadilika
Utafiti mpya wa usalama wa mtandao unaibua tahadhari kuhusu kinachotokea wakati programu hasidi zisizo na uendeshaji wa binadamu zinakutana na AI za kisasa. Watafiti wa University of Toronto wameonyesha prototipu ya minyoo inayotumiwa na modeli za AI zinazopatikana kwa umma ambayo inaweza kutumia dosari za kompyuta zilizojulikana, kusambaa kupitia mtandao wa majaribio bila uingiliaji wa binadamu na kubadilisha tabia yake anapoendelea.
Tofauti na minyoo za kawaida, ambazo kawaida huundwa na waprogramu wenye ujuzi kuwalenga dosari maalum, prototipu hii ilibuniwa kuiga mashambulizi yake kwa mifumo tofauti, ikiwa ni pamoja na Linux, Windows na vifaa vya IoT. Inaposambaa, inaweza kukusanya data, kunyonya nywila na kutafuta udhaifu zaidi unaosaidia kusonga ndani ya mtandao. Ikiwa njia moja itarekebishwa (patched), minyoo inaweza kujaribu njia nyingine.
Timu ilisema iliunda mfumo huo katika mazingira yaliyofungwa na salama na ilitumia modeli za AI zilizo na uzito wazi kwa tahadhari kubwa. Licha ya hayo, matokeo yalionyesha jinsi AI inaweza kuweza kugeuzwa kuwa silaha ya kuendeleza matumizi kwa kiwango ambacho ni vigumu kudhibiti mara tu inapochochewa.
Minyoo inayojifunza anapopita
Watafiti wanasema minyoo hiyo pia "inajilisha" kwa kuchota nguvu za usindikaji kutoka kwa mashine zilizoambukizwa, ikitumia rasilimali hizo kuboresha uwezo wake wa kutafakari na mkakati wa mashambulizi ya baadaye. Hii inaunda aina mpya ya uchumi wa tishio, ambapo mshambuliaji haahitaji tena kutumia muda au nguvu nyingi za kompyuta baada ya kuzindua.
"Wavamizi mara nyingi wamekuwa wakilazimika kuipa kipaumbele viboreshaji vyenye thamani kubwa kwa sababu muda na rasilimali za kompyuta zilikuwa ndogo," alisema mwandishi mkuu Nicolas Papernot. "Lakini sasa, mara tu minyoo inapozinduliwa, gharama itashuka hadi karibu sifuri."
Prototipu bado ina ukomo mmoja muhimu: inaweza kutumia dosari zilizojulikana, lakini haiwezi kugundua mpya kwao peke yake. Hii inaiweka chini ya uwezo wa mifumo ya AI kama Mythos ya Anthropic, ambayo kampuni hiyo inasema tayari imegundua zaidi ya dosari 10,000 na kuwasaidia washirika kuongeza viwango vya kugundua mende kwa mara zaidi ya kumi.
Hata hivyo, watafiti wanatoa onyo kuwa wahalifu wanaweza kubadilisha uwezo huo. Katika senario hiyo, minyoo ya AI inaweza kugundua na kutumia dosari mpya, na kuifanya iwe ngumu zaidi kusimamia.
"Katika dunia iliyounganishwa, hakuna mfumo usio na hatari hii," alisema Papernot.
Vyanzo: