TLDR
Zero Trust perlu dipikirkan ulang untuk menghadapi serangan AI yang bersifat otonom. Otentikasi tidak cukup untuk mengendalikan bagaimana agen AI bertindak berdasarkan otoritas yang dipersepsikan. Serangan berbasis AI dapat dilakukan secara berulang dan cepat, meningkatkan ketidakpastian bagi para pembela. Pomodo.id - Zero Trust, sebagai sebuah pendekatan keamanan siber, kini perlu ditinjau kembali untuk menghadapi serangan yang semakin canggih dari AI agentik. Baru-baru ini, aktor ancaman dari China menggunakan Hermes Agent yang didukung oleh DeepSeek untuk menemukan dan menyerang server yang rentan. Ketika melakukan serangan, alat tersebut memilih target, mengunduh eksploitasi, dan mengubah arah jika upaya tersebut gagal. Meskipun kali ini otentikasi berhasil menghentikan agen tersebut sebelum ia dapat membahayakan target, tantangan di masa depan menunjukkan bahwa pendekatan Zero Trust tidak dapat sepenuhnya mengatasi serangan AI agentik yang akan datang.Data dari Palo Alto Networks' Unit 42 menunjukkan bahwa kendali yang ada saat ini dapat memverifikasi akses dan memblokir eksploitasi. Namun, kontrol-kontrol tersebut tidak dapat mengatur bagaimana agen menafsirkan otoritasnya dan bertindak. Meskipun ada keberhasilan dalam menghentikan serangan tersebut, sistem juga secara tidak sengaja mengekspos infrastruktur operatornya, termasuk kunci API, kode eksploitasi, daftar target, dan log serangan. Ini menunjukkan bahwa ancaman tersebut bukan berasal dari AI yang mengarah sendiri, melainkan dari AI yang diizinkan untuk beroperasi tanpa pengawasan manusia.
Zero Trust adalah model keamanan yang berfokus pada verifikasi identitas dan memperlakukan semua pengguna sebagai potensi ancaman sampai terbukti sebaliknya. Tujuan utamanya adalah untuk mengurangi risiko akses yang tidak sah ke sistem. Dalam konteks serangan AI agentik, saat ini pemisahan antara identitas dan otoritas menjadi krusial. Otoritas harus dapat diverifikasi secara independen, dapat dicabut, dan dibatasi waktunya. Hal ini harus diperiksa terus-menerus melawan sinyal yang tidak dapat dikontrol oleh agen atau platform operasinya.
Meskipun saat ini tindakan pencegahan menunjukkan hasil positif, ancaman dari AI agentik akan berkembang lebih cepat daripada kemampuan kita untuk mengendalikannya. Kenaikan jumlah AI agent diperkirakan mencapai lebih dari satu miliar dalam beberapa tahun ke depan. Mengingat kecepatan perubahan ini, terdapat potensi risiko tinggi dalam penggunaan teknologi ini tanpa aturan dan pengawasan yang memadai. Seiring dengan meningkatnya kapasitas agen AI, begitu juga dengan kompleksitas serangan yang akan mereka bawa.Dalam konteks perusahaan, risiko ini diperkirakan akan lebih signifikan daripada yang terlihat di tingkat individu. Perusahaan akan mengerahkan agen yang bertindak dengan otoritas korporasi yang didelegasikan. Agen-agen ini bisa saja memiliki identitas yang dapat diverifikasi, namun otoritas untuk setiap tindakan yang mereka lakukan tidak dapat diverifikasi secara independen. Ini menciptakan apa yang disebut sebagai “sprawl agen yang tak teratur” tanpa pengawasan yang memadai. Misalnya, jika sebuah agen mengelola sumber daya perusahaan, dapat terjadi insiden di mana akses ke informasi sensitif terekspos tanpa adanya kontrol yang efektif.Dengan demikian, era baru dalam keamanan siber memerlukan pendekatan fresh terhadap model Zero Trust untuk dapat beradaptasi dengan potensi ancaman yang berasal dari serangan AI agentik. Harus ada pemisahan yang jelas antara identitas dan otoritas. Keberlanjutan upaya ini tidak hanya akan meningkatkan resiliensi teknologi bagi organisasi di Indonesia, tetapi juga memperkuat jaminan keamanan nasional yang lebih luas di tengah meningkatnya ancaman digital dari seluruh dunia.
