Watafiti wanaonyesha jinsi mawakala wa AI wa uandishi wa msimbo wanavyoweza kuvutwa kuendesha programu hatari kutoka kwenye repositori safi za GitHub
Mawakala wa AI wa uandishi wa msimbo wanakabiliwa na hatari mpya ya mnyororo wa usambazaji
Ripoti mpya kutoka kwa Mozilla’s Zero Day Investigative Network, au 0DIN, inasema zana za uandishi wa msimbo zinazofanya kazi kwa kujitegemea zinaweza kudanganywa kuendesha mizigo hatari kutoka kwenye repositori za GitHub ambazo zinaonekana huru au safi kwa skana na wakaguzi wa binadamu.
Wasiwasi hauhusiani na mti wa chanzo uliochanika kwa njia ya kawaida. Katika maonyesho ya 0DIN, repositori yenyewe haikuwa na msimbo wa hatari wazi. Badala yake, mnyororo wa shambulio ulitokea wakati wa usanidi, alipoulizwa Claude Code ili ikopi na iendeshe mradi. Mchakato huo, wanasema watafiti, unaweza kusababisha shell ya mwingiliano kwenye mashine ya msanidi bila agizo lolote lenye dalili za kutiliwa shaka kukubaliwa waziwazi.
0DIN ilielezea uvamizi huo ukitokea kwa “no exploit code, no warning, no suspicious command anyone had to approve.”
Njia hiyo inategemea vipande vitatu tofauti ambavyo kila kimoja vinaonekana visivyo hatari peke yake. Pamoja, vinaweza kuiga makosa ya kawaida ya mtumiaji, kusababisha kosa ambalo wakala analiamini, na kupata thamani ambayo hatimaye inaelekeza kwa lengo la kibaya. Matokeo ni reverse shell ambayo iko “three indirection steps away” kutoka kwa chochote ambacho AI ilikikagua kwa sasa, kulingana na watafiti.
“Claude Code hakuwahi kuamua kufungua shell. Iliamua kurekebisha kosa. Reverse shell iko three indirection steps away kutoka kwa chochote ambacho Claude Code ilikikagua: ujumbe wa kosa uliouamini, script iliyopakia thamani, na rekodi ya DNS ambayo haikuonekana kabisa,” wanasema watafiti wa 0DIN.
Ikiwa shambulio litafanikiwa, mdukuzi anapata shell inayofanya kazi kwa vibali vya msanidi, ikifungua upatikanaji wa vigezo vya mazingira, funguo za API, faili za usanidi za ndani na uwezekano wa kukaa mfumo kwa muda mrefu.
0DIN inasema mbinu hiyo kwa sasa ni dhana tu, lakini inatoa onyo kwamba inaweza kusambazwa kwa urahisi kupitia matangazo ya kazi ya uongo, mafundisho, machapisho ya blogi au ujumbe wa moja kwa moja.
Ili kupunguza hatari, kundi hilo linapendekeza kwamba mawakala ya AI waweke wazi mnyororo kamili wa utekelezaji kwa amri za usanidi, ikiwa ni pamoja na script na msimbo wowote unaopakiwa dinamiski wakati wa runtime. Uonekano huo, wanadai watafiti, ni muhimu ikiwa mashirika yanataka kuzuia mashambulio ya mnyororo wa usambazaji yanayopita kando za kinga za kiotomatiki na ukaguzi wa binadamu.
Sources: