TLDR
Kerentanan di Azure DevOps memungkinkan penyerang menyisipkan instruksi tersembunyi yang dapat mengeksploitasi akses pengguna lain. Microsoft telah menerapkan beberapa langkah keamanan, tetapi masih ada celah yang perlu ditangani untuk melindungi data sensitif. Penting untuk membatasi akses dan memeriksa perubahan yang diajukan sebelum menggunakan alat AI dalam peninjauan kode. Pomodo.id - Komentar tersembunyi dalam sistem Azure DevOps dapat mengakibatkan manipulasi pada agen pengkodean AI yang digunakan oleh penggunanya, menimbulkan risiko bocornya data rahasia. Keberadaan celah di server MCP Azure DevOps ini terletak pada kemampuan untuk menyisipkan komentar HTML yang tidak terlihat oleh pengguna. Ketika pengguna meminta agen AI untuk mereview perubahan dalam pull request, komentar ini diteruskan ke agen dengan cara yang tidak dapat dideteksi oleh pengguna, sehingga mengarahkan agen tersebut untuk melakukan tindakan di proyek yang tidak seharusnya diaksesnya dan membocorkan informasi.Celah ini telah dijelaskan oleh perusahaan keamanan Manifold Security, yang mengidentifikasi bahwa server Azure DevOps tidak memiliki penghalang tertentu yang mencegah penyisipan instruksi ke dalam konten yang terlihat normal. Di dalam antarmuka web, komentar HTML ini tidak muncul, tetapi ketika agen AI melihat deskripsi pull request, instruksi yang tersembunyi dapat mengubah tujuan kerja agen tersebut. Hal ini bisa sangat berbahaya, karena agen AI tersebut menggunakan kredensial pengguna, sehingga bisa mengakses informasi dalam konteks yang tidak diperbolehkan.Ada juga keterkaitan dengan serangan yang lebih umum dikenal sebagai injeksi data agen (Agent Data Injection, ADI). Dalam model ADI, penyerang memasukkan informasi yang disamarkan sebagai data terpercaya oleh agen tersebut. Contohnya, ketika seseorang menggunakan agen AI untuk merangkum ulasan produk, satu ulasan palsu dapat menyebabkan agen tersebut membuat keputusan yang tidak benar. Dalam studi yang diterbitkan, ditemukan bahwa penyisipan sebagaimana itu bisa berhasil antara 31 hingga 43 persen dari waktu, menunjukkan betapa vitalnya ketahanan terhadap jenis-jenis serangan ini.Salah satu contoh kesalahan dalam konteks ini diambil dari insiden sebelumnya dengan Kiro, sebuah IDE pengkodean yang dikembangkan oleh AWS. Kiro juga mengalami masalah di mana teks tersembunyi dapat memengaruhi konfigurasi agen dan membuatnya menjalankan kode jahat tanpa persetujuan dari pengembang. Meskipun AWS telah memperbaiki masalah ini, situasi ini menyoroti risiko yang sudah ada sebelumnya dan perlunya pengawasan yang lebih ketat terhadap perangkat AI yang beroperasi dengan akses pengguna yang luas.Penting untuk diingat bahwa celah dalam sistem ini tidak hanya membuktikan potensi serangan terhadap alat pengembangan tetapi juga menunjukkan bahwa banyak pengguna masih menganggap agen AI sebagai alat yang sepenuhnya aman dan tidak rentan. Saat agen AI digunakan dalam lingkungan yang mengharuskan operasi dengan izin pengguna, kerentanan-kerentanan tersebut menjadi ancaman yang lebih besar jika tidak diurus secara simultan dengan pengamanan yang kuat.Ada kemungkinan bahwa kesenjangan ini dapat diatasi dengan revisi pada infrastruktur dan alat keamanan di Azure DevOps, sehingga mengurangi potensi manipulasi di masa depan. Pendekatan yang lebih ketat terhadap protokol keamanan dan peninjauan terhadap sistem yang ada disarankan untuk menghindari insiden serupa di masa mendatang.Artikel ini disintesis dari 3 sumber.
