Bababala ng mga mananaliksik: Mga uod na pinapagana ng artipisyal na intelihensiya ay maaaring kumalat nang kusa sa mga network
Ginawang mas mabilis at adaptibo ng artipisyal na intelihensiya ang klasikong uod
Isang bagong pag-aaral sa cybersecurity ang nagbubuga ng babala tungkol sa maaaring mangyari kapag nagtagpo ang awtonomong malware at makabagong artipisyal na intelihensiya. Ipinakita ng mga mananaliksik sa University of Toronto ang isang prototipong uod ng malware na pinapagana ng mga pampublikong maa-access na modelo ng artipisyal na intelihensiya na kayang samantalahin ang mga kilalang kahinaan sa kompyuter, kumalat sa isang test network nang walang interbensiyong tao at inaangkop ang pag-uugali habang gumagalaw.
Di tulad ng mga tradisyonal na uod, na karaniwang binubuo ng mga bihasang programmer para targetin ang partikular na mga kahinaan, idinisenyo ang prototipo para iangkop ang mga pag-atake nito sa iba't ibang sistema, kabilang ang Linux, Windows at Internet ng mga Bagay. Habang kumakalat ito, maaari itong mangalap ng datos, kumuhan ng mga password at maghanap ng karagdagang mga kahinaan na tutulong dito na mas lumalim pa sa isang network. Kung maisara o ma-patch ang isang ruta, susubukan ng uod ang iba pa.
Sinabi ng koponan na itinayo nila ang sistema sa isang ligtas na saradong kapaligiran at gumamit ng mga modelong artipisyal na intelihensiya na may bukas na timbang kasama ang malawak na mga pag-iingat. Kahit ganoon, ipinakita ng resulta kung paano maaaring gawing sandata ang artipisyal na intelihensiya upang awtomatikong isagawa ang pagsasamantala sa isang saklaw na mahirap pigilan kapag nailabas na.
Isang uod na natututo habang nagpapalaganap
Sinasabi ng mga mananaliksik na ang uod ay "pinapakain" din mismo sa pamamagitan ng pagkuha ng processing power mula sa mga nahawaang makina, ginagamit ang mga yaman na iyon upang pahusayin ang pangangatwiran at estratehiya nito para sa mga susunod na pag-atake. Lumilikha iyon ng bagong uri ng threat economy, kung saan hindi na kailangang gumugol ng malaking oras o kapangyarihang pang-kompyutasyon ang isang umaatake pagkatapos ilunsad.
"Kadalasan, kailangang unahin ng mga hacker ang pinaka-mataas na halagang target dahil limitado ang oras at mga yaman sa kompyutasyon," sabi ni lead author Nicolas Papernot. "Ngunit ngayon, kapag nailunsad na ang isang uod, halos bababa ang gastos sa halos zero."
Limitado pa rin ang prototipo sa isang mahalagang paraan: kaya nitong samantalahin ang mga kilalang depekto, ngunit hindi nito matuklasan ang mga bago nang mag-isa. Ginagawa nitong hindi ito kasing-advance kumpara sa ilang mga sistema ng artipisyal na intelihensiya tulad ng Mythos ng Anthropic, na sinasabing nakatuklas na ng higit sa 10,000 kahinaan at tumulong sa mga kasosyo na mapalago ang kanilang bug-finding rate nang higit sa sampung beses.
Gayunpaman, binabalaan ng mga mananaliksik na maaaring pagsamahin ng masamang mga aktor ang mga kakayahan na iyon. Sa ganoong senaryo, ang isang uod na pinapagana ng artipisyal na intelihensiya ay parehong makakahanap at makakasamantala ng mga bagong kahinaan, kaya mas mahirap ito pigilan.
"Sa isang magkakaugnay na mundo, walang sistema ang ligtas mula sa banta na ito," sabi ni Papernot.
Sources: