Peneliti menunjukkan bagaimana agen pengkodean kecerdasan buatan dapat dipikat menjalankan malware dari repositori GitHub yang tampak bersih
Agen pengkodean kecerdasan buatan menghadapi risiko rantai pasokan baru
Sebuah laporan baru dari Zero Day Investigative Network milik Mozilla, atau 0DIN, menyatakan alat pengkodean berbasis agen dapat ditipu untuk menjalankan payload berbahaya dari repositori GitHub yang tampak tidak berbahaya bagi pemindai maupun pemeriksa manusia.
Kekhawatirannya bukanlah pohon sumber yang diracuni dalam arti umum. Dalam demonstrasi 0DIN, repositori itu sendiri tidak mengandung kode berbahaya yang jelas. Sebaliknya, rantai serangan berkembang selama tahap pengaturan, ketika Claude Code diminta untuk meng-kloning dan menjalankan proyek. Proses itu, kata para peneliti, bisa mengarah ke shell interaktif di mesin pengembang tanpa ada perintah yang secara gamblang mencurigakan yang disetujui.
0DIN menggambarkan kompromi itu terjadi "tanpa kode eksploit, tanpa peringatan, tanpa perintah mencurigakan yang harus disetujui siapa pun."
Metode ini bergantung pada tiga bagian terpisah yang masing-masing terlihat tidak berbahaya sendiri. Bersama-sama, mereka dapat meniru kesalahan umum pengguna, memicu kesalahan yang dipercaya agen, dan mengambil sebuah nilai yang pada akhirnya menunjuk ke tujuan berbahaya. Hasilnya adalah shell terbalik yang berada "tiga langkah indirection" dari apa pun yang benar-benar dievaluasi oleh kecerdasan buatan, menurut para peneliti.
"Claude Code tidak pernah memutuskan untuk membuka shell. Ia memutuskan untuk memperbaiki sebuah kesalahan. Reverse shell itu berada tiga langkah indirection dari apa pun yang benar-benar dievaluasi oleh Claude Code: sebuah pesan kesalahan yang dipercaya, sebuah skrip yang mengambil sebuah nilai, dan sebuah rekaman DNS yang tidak pernah dilihatnya," kata para peneliti 0DIN.
Jika serangan berhasil, penyusup mendapatkan shell yang berjalan dengan hak istimewa pengembang, membuka akses ke variabel lingkungan, kunci API, file konfigurasi lokal dan kemungkinan mempertahankan akses.
0DIN mengatakan teknik itu saat ini baru berupa konsep, tetapi memperingatkan bahwa teknik tersebut bisa didistribusikan dengan mudah melalui lowongan pekerjaan palsu, tutorial, posting blog atau pesan langsung.
Untuk mengurangi risiko, kelompok itu merekomendasikan agar agen kecerdasan buatan mengungkapkan seluruh rantai eksekusi untuk perintah pengaturan, termasuk skrip dan kode apa pun yang diambil secara dinamis saat runtime. Visibilitas itu, menurut para peneliti, sangat penting jika organisasi ingin menghentikan serangan rantai pasokan yang lolos dari pertahanan otomatis maupun tinjauan manusia.
Sumber: