Ejen AI menjadi masalah identiti baharu bagi pasukan keselamatan perusahaan

Ejen AI sedang mengembangkan permukaan serangan

Selama bertahun-tahun, pasukan keselamatan telah beroperasi atas andaian mudah: jika mereka mengawal identiti, mereka boleh mengawal risiko. Pekerja mengesahkan melalui penyedia identiti. Akaun perkhidmatan menyambungkan sistem. Kunci API membenarkan beban kerja bercakap dengan perkhidmatan awan dan pangkalan data.

Model itu kini berada di bawah tekanan apabila ejen AI bergerak dari pembantu produktiviti kepada pelaku yang mempunyai akses kepada sistem perniagaan teras. Apa yang bermula sebagai alat yang merumuskan mesyuarat, merangka emel dan membantu pekerja mencari maklumat kini semakin dihubungkan kepada Salesforce, Snowflake, GitHub, Jira, pangkalan data produksi dan persekitaran awan.

Setelah disambungkan, ejen ini boleh mengambil maklumat, mencetuskan aliran kerja, mengemas kini rekod, menulis dan mengeluarkan kod, serta mengambil tindakan merentasi pelbagai sistem. Kadang-kadang mereka bertindak bagi pihak manusia. Kadang-kadang mereka bertindak secara autonomi. Kadang-kadang, organisasi mungkin tidak dapat membezakan yang mana.

Lapisan identiti baharu dengan pengawasan yang sedikit

Cabaran keselamatan bukan hanya tentang apa yang model AI boleh katakan, tetapi apa yang ejen boleh capai. Dalam persekitaran perusahaan, mereka sebenarnya menjadi identiti — dan kebanyakan organisasi tidak mempunyai model keselamatan dan tadbir urus yang dibina untuk mereka.

Pola itu, menurut penyelidikan, adalah biasa: satu lapisan identiti baharu dibina di atas infrastruktur sedia ada dengan sedikit kawalan yang pasukan identiti telah belanjakan bertahun-tahun untuk meletakkannya. Satu ejen mungkin dicipta oleh satu pasukan, digunakan oleh pasukan lain, disambungkan kepada beberapa aplikasi dan berjalan dengan kredensial yang pada asalnya diperuntukkan untuk tujuan berbeza.

Kerana pasukan sering mahu sistem ini berfungsi dengan cepat, akses luas boleh diberi lebih awal. Keputusannya ialah serakan pelaku berkuasa tinggi dengan penglihatan rendah yang mungkin pasukan keselamatan tidak dapat inventori, apatah lagi mentadbir.

Tinjauan menunjukkan titik buta meluas

Satu tinjauan CSA 2026 yang dipesan oleh Token Security mendapati bahawa 82% organisasi menemui sekurang-kurangnya satu ejen AI yang dicipta tanpa pengetahuan pasukan keselamatan, IT atau tadbir urus dalam tahun lalu. Empat puluh satu peratus berkata ia berlaku beberapa kali.

Penemuan itu menekankan betapa cepatnya sistem beragent boleh mengatasi kawalan IAM tradisional. Ejen AI boleh mencipta, menggunakan dan memusingkan identiti pada kelajuan mesin, meninggalkan program pengurusan identiti dan akses konvensional bergelut untuk mengejar.

Keputusannya ialah pergeseran dalam perbualan keselamatan. Walaupun banyak perhatian terhadap AI tertumpu pada risiko model seperti injeksi prompt, jailbreak dan output yang tidak selamat, soalan perusahaan yang lebih segera mungkin lebih ringkas: apa sebenarnya yang ejen itu boleh akses?

Sumber:

• bleepingcomputer.com

Baca lebih banyak berita teknologi di Doppler VPN Blog.