Agentjacking Attack Trik Agen Pengodean AI Menjadi Menjalankan Kode Berbahaya

Perkembangan ini menjadi salah satu sorotan penting dalam perkembangan alat dan strategi keamanan siber. Peneliti keamanan siber telah menggambarkan apa yang mereka sebut sebagai serangan kelas baru yang dapat mengelabui agen pengkode kecerdasan buatan (AI) agar menjalankan kode…

Peneliti keamanan siber telah menggambarkan apa yang mereka sebut sebagai serangan kelas baru yang dapat mengelabui agen pengkode kecerdasan buatan (AI) agar menjalankan kode arbitrer pada mesin pengembang.

Disebut Agentjacking oleh Tenet Security, serangan tersebut dapat dipicu melalui laporan kesalahan palsu yang dibuat menggunakan Sentry, sebuah platform pelacakan kesalahan dan pemantauan kinerja sumber terbuka.

“Serangan ini mengeksploitasi kelemahan arsitektur kritis di persimpangan penyerapan peristiwa Sentry (yang menerima muatan sewenang-wenang dari siapa pun yang memiliki DSN) dan server Sentry MCP (yang mengembalikan data ini ke agen AI sebagai keluaran sistem tepercaya),” kata peneliti keamanan Ron Bobrov, Barak Sternberg, dan Nevo Poran.

“Penyerang tidak pernah menyentuh infrastruktur korban,” jelas peneliti. "Instruksi jahat datang dengan menyamar sebagai 'Resolusi' yang sah di dalam kesalahan biasa. Saat pengembang meminta agen AI mereka untuk memperbaiki masalah Sentry, agen tersebut membaca perintah penyerang sebagai panduan tepercaya dan menjalankannya - dengan hak istimewa milik pengembang, di mesin milik pengembang."

Perusahaan keamanan siber AI tersebut mengatakan bahwa mereka menemukan setidaknya 2.388 organisasi terpapar dengan DSN yang dapat disuntikkan dan telah menguji serangan tersebut secara terkendali terhadap lebih dari 100 organisasi, sehingga mencapai tingkat keberhasilan eksploitasi sebesar 85% terhadap kesalahan yang disuntikkan pada beberapa asisten pengkodean AI yang paling banyak digunakan.

“Ketika perusahaan-perusahaan berlomba untuk menggunakan agen pengkodean AI, penelitian ini membuktikan bahwa agen-agen itu sendirilah yang menjadi sasaran serangan – berbalik melawan pengembang yang mempercayai mereka, dan hanya menggunakan data yang dipublikasikan oleh organisasi-organisasi tersebut,” kata Tenet. "Serangan ini melewati EDR, WAF, IAM, VPN, Cloudflare, dan firewall - karena tidak ada sesuatu yang berbahaya untuk dideteksi. Setiap tindakan dalam rantai tersebut diotorisasi."

Secara keseluruhan, perkembangan ini memberi gambaran tentang arah terbaru di perkembangan alat dan strategi keamanan siber dan alasan mengapa topik ini tetap relevan untuk terus dipantau.

Baca sumber asli dari thehackernews. com