Serangan HalluSquatting Baru Dapat Menipu Asisten Pengkodean AI untuk Menginstal Malware Botnet

Perkembangan ini menjadi salah satu sorotan penting dalam perkembangan alat dan strategi keamanan siber. Minta seseorang untuk mengambil alat yang populer, dan terkadang alat tersebut akan memberikan nama yang terdengar nyata untuk proyek yang tidak ada.

Asisten pengkodean AI memiliki kebiasaan mengada-ada. Minta seseorang untuk mengambil alat yang populer, dan terkadang alat tersebut akan memberikan nama yang terdengar nyata untuk proyek yang tidak ada.

Penelitian baru, yang oleh penulisnya disebut HalluSquatting, mengubah kebiasaan itu menjadi sebuah serangan: cari tahu nama-nama palsu yang bisa diciptakan oleh AI, daftarkan nama tersebut terlebih dahulu, dan tunggu asisten mengambil jebakan Anda atas nama pengguna.

Tunggu. Seorang pengguna sebenarnya meminta asistennya untuk mengambil sumber daya populer. Asisten menciptakan nama palsu yang sama dan menggunakan versi penyerang. Instruksi tersembunyinya dilipat menjadi apa yang menurut asistennya diperintahkan untuk dilakukan, dan asisten yang dibajak menggunakan alat yang menjalankan perintahnya sendiri untuk melaksanakannya.

Mereka menjalankannya terhadap alat-alat termasuk Cursor, Windsurf, GitHub Copilot, Cline, Google Gemini CLI, dan keluarga asisten OpenClaw, yang masing-masing menjalankan kode penyerang. Muatan pengujiannya merupakan placeholder yang tidak berbahaya, bukan malware sungguhan; yang hidup akan mengambil jalan yang sama.

AI adalah van pengiriman di sini, bukan kargo. Instruksi yang ditanam menipunya untuk memasang bot biasa, dan setelah bot itu berjalan, mesin tersebut menjadi milik botnet seperti yang lainnya. Yang baru adalah kombinasi yang mewujudkan hal tersebut: nama yang dapat diprediksi oleh AI, pasar tempat siapa pun dapat mendaftarkan nama tersebut, dan agen yang memiliki izin untuk mengambil dan menjalankannya.

Platform memiliki tuasnya sendiri. Mereka dapat berhenti membiarkan orang menggunakan kembali nama repositori terkenal di bawah akun baru, dan melakukan pra-registrasi nama palsu yang mungkin diciptakan oleh AI (pertahanan yang sama telah digunakan terhadap kesalahan ketik), sehingga nama-nama tersebut mengarah kembali ke proyek sebenarnya.

Secara keseluruhan, perkembangan ini memberi gambaran tentang arah terbaru di perkembangan alat dan strategi keamanan siber dan alasan mengapa topik ini tetap relevan untuk terus dipantau.

Baca sumber asli dari thehackernews. com