GuardFall Mengekspos Agen Pengodean AI Sumber Terbuka pada Risiko Injeksi Shell yang Berusia Puluhan Tahun

Perkembangan ini menjadi salah satu sorotan penting dalam perkembangan alat dan strategi keamanan siber. Pemeriksaan keamanan yang seharusnya menghentikan agen pengkodean AI menjalankan perintah berbahaya dapat dilewati dengan menggunakan trik shell yang telah dipublikasikan selama…

Keamanan AI / Rantai Pasokan Perangkat Lunak

Pemeriksaan keamanan yang seharusnya menghentikan agen pengkodean AI menjalankan perintah berbahaya dapat dilewati dengan menggunakan trik shell yang telah dipublikasikan selama beberapa dekade.

Penelitian baru dari Adversa AI, yang diberi nama bypass GuardFall, menemukan bahwa ia bekerja terhadap sepuluh dari sebelas agen pengkodean dan penggunaan komputer sumber terbuka populer yang diuji oleh perusahaan tersebut. Hanya satu, "Lanjutkan", yang dibuat untuk bertahan melawannya.

Mengapa itu penting? Agen ini menjalankan perintah shell dengan akses penuh akun Anda. Arahkan satu ke repositori jebakan atau paket perangkat lunak, dan instruksi tersembunyi dapat secara diam-diam menjalankan perintah yang menghapus file atau mencuri rahasia yang dapat dijangkau akun Anda, mulai dari kunci SSH dan kredensial cloud hingga apa pun yang ada di folder utama Anda.

Sebagian besar agen ini mencoba untuk tetap aman dengan memeriksa setiap perintah terhadap daftar blokir pola berbahaya sebelum menjalankannya. Kelemahannya adalah mereka memeriksa perintah sebagai teks biasa, sementara bash menulis ulang teks tersebut sebelum benar-benar dijalankan. Shell menghapus tanda kutip dan memperluas pintasan, sehingga filter dan shell akhirnya melihat dua hal yang berbeda.

Lanjutkan, satu-satunya agen yang bertahan, bertahan dengan membaca perintah seperti yang dilakukan bash sebelum memutuskan: ia memecah perintah menjadi bagian-bagian yang sama seperti yang dilakukan shell, memeriksa apa yang sebenarnya dijalankan, dan menyimpan daftar keras perintah destruktif yang langsung diblokir.

Secara keseluruhan, perkembangan ini memberi gambaran tentang arah terbaru di perkembangan alat dan strategi keamanan siber dan alasan mengapa topik ini tetap relevan untuk terus dipantau.

Baca sumber asli dari thehackernews. com