Agen pengekodan kecerdasan buatan menghadapi risiko rantaian bekalan baru

Laporan baharu dari Zero Day Investigative Network Mozilla, atau 0DIN, menyatakan alat pengekodan beragensi boleh dipermainkan untuk menjalankan muatan berniat jahat dari repositori GitHub yang nampak tidak berbahaya kepada kedua-dua pengimbas dan penilai manusia.

Kebimbangan bukanlah pokok sumber yang tercemar dalam erti biasa. Dalam demonstrasi 0DIN, repositori itu sendiri tidak mengandungi kod berniat jahat yang jelas. Sebaliknya, rantaian serangan berlaku semasa penyediaan, apabila Claude Code diminta untuk mengklon dan menjalankan projek itu. Proses itu, kata penyelidik, boleh membawa kepada shell interaktif pada mesin pembangun tanpa sebarang arahan yang jelas mencurigakan diluluskan.

0DIN menggambarkan pengkompromian itu berlaku dengan "tiada kod eksploit, tiada amaran, tiada arahan mencurigakan yang perlu diluluskan oleh sesiapa pun."

Kaedah ini bergantung pada tiga bahagian berasingan yang masing-masing kelihatan tidak berbahaya dengan sendirinya. Bersama-sama, ia boleh meniru kesilapan biasa pengguna, mencetuskan ralat yang dipercayai agen, dan mengambil nilai yang akhirnya menunjuk ke destinasi berniat jahat. Hasilnya ialah shell terbalik yang berada "tiga langkah tidak langsung" daripada apa-apa yang sebenarnya dinilai oleh kecerdasan buatan, menurut penyelidik.

"Claude Code tidak pernah memutuskan untuk membuka shell. Ia memutuskan untuk membetulkan ralat. Shell terbalik itu tiga langkah tidak langsung daripada apa-apa yang Claude Code sebenarnya nilai: satu mesej ralat yang dipercayainya, satu skrip yang mengambil nilai, dan satu rekod DNS yang tidak pernah dilihatnya," kata penyelidik 0DIN.

Jika serangan berjaya, penceroboh mendapat akses baris perintah yang berjalan dengan keistimewaan pembangun, membuka akses kepada pembolehubah persekitaran, kunci API, fail konfigurasi tempatan dan kemungkinan untuk mengekalkan kedudukan.

0DIN berkata teknik itu pada masa ini hanya satu konsep, tetapi memberi amaran ia boleh diedarkan dengan mudah melalui iklan pekerjaan palsu, tutorial, catatan blog atau mesej langsung.

Untuk mengurangkan risiko, kumpulan itu mengesyorkan agar agen kecerdasan buatan mendedahkan rantaian pelaksanaan penuh untuk perintah penyediaan, termasuk skrip dan sebarang kod yang diambil secara dinamik pada masa larian. Ketelusan itu, kata penyelidik, adalah penting jika organisasi mahu menghentikan serangan rantaian bekalan yang terlepas baik pertahanan automatik mahupun semakan manusia.

Sumber:

bleepingcomputer.com