TLDR
Keamanan agen AI menjadi masalah governance identitas. Tim keamanan perlu mengetahui agen apa yang ada dan akses yang mereka miliki. Organisasi dengan governance identitas yang lebih matang lebih baik dalam mengelola risiko terkait agen AI. Pomodo.id - Akses yang tidak terkontrol terhadap agen AI (AI agents) dapat menyebabkan risiko keamanan yang signifikan di kalangan organisasi. Ketika agen AI mulai digunakan dalam operasional bisnis, mereka terhubung dengan berbagai aplikasi dan sistem, seringkali tanpa kontrol yang sama seperti yang diterapkan pada pengguna manusia. Laporan oleh Okta menunjukkan bahwa hanya 47% Chief Information Security Officers (CISO) yang percaya bahwa mereka dapat mengidentifikasi setiap agen AI yang ada di lingkungan mereka. Meskipun beberapa merasa percaya diri, sekitar 80% masih khawatir bahwa akses yang berlebihan tetap tidak ditinjau. Ini menunjukkan bahwa mengetahui keberadaan agen AI tidak sama dengan mengontrol apa yang dapat mereka lakukan.Penelitian dari Veeam menunjukkan bahwa 70% organisasi mengakui bahwa alur kerja AI mereka telah mengakses data sensitif perusahaan tanpa pengawasan yang memadai. Selain itu, 67% melaporkan bahwa departemen IT tidak dapat sepenuhnya melacak workflow otonom yang dibangun oleh karyawan, termasuk penggunaan "shadow AI", yaitu teknologi AI yang digunakan tanpa izin resmi. Kesenjangan ini menunjukkan tantangan besar dalam mengelola keamanan data, terutama ketika kecepatan adopsi AI yang tinggi tidak diimbangi dengan langkah-langkah keamanan yang efektif.Meskipun ada peningkatan perhatian terhadap masalah ini, banyak organisasi masih menggunakan kontrol yang dirancang untuk akun layanan tradisional, dengan hanya satu dari empat yang mengadopsi kerangka kerja yang dirancang khusus untuk menjaga keamanan agen AI. Beberapa organisasi bahkan masih mengandalkan kredensial yang dibagikan atau akun layanan dengan izin yang luas. Hal ini mengakibatkan kesulitan untuk menjawab pertanyaan dasar terkait manajemen akses, karena bertambahnya penggunaan AI membutuhkan model pengelolaan yang lebih ketat dan terstruktur.
Akses Kontrol Identitas untuk Agen AI
Akses kontrol identitas adalah metode untuk mengatur siapa yang dapat mengakses sumber daya digital dan apa yang dapat dilakukan oleh pengguna tersebut. Dalam konteks agen AI, setiap agen perlu dianggap sebagai entitas identitas tersendiri, dengan pemilik, izin, siklus hidup, dan peninjauan akses yang jelas. Dengan menerapkan prinsip-prinsip Zero Trust—yang menekankan bahwa tidak ada sistem yang dapat langsung dipercaya—organisasi dapat mengurangi hak akses yang berlebihan dan meningkatkan keamanan data. Ini berarti bahwa kontrol yang lebih ketat harus diterapkan sebelum menggunakan agen AI secara luas.
Kondisi ini membawa implikasi penting untuk berbagai sektor di Indonesia, terutama bagi generasi muda yang memasuki dunia kerja. Dengan banyaknya perusahaan yang mengimplementasikan AI dalam operasional mereka, keterampilan dalam mengelola dan mengamankan teknologi ini akan semakin dibutuhkan. Karier di bidang keamanan siber, teknologi informasi, dan manajemen identitas akan mengalami pertumbuhan signifikan. Adopsi AI yang terus meningkat, tanpa kontrol yang tepat, dapat memperbesar risiko pelanggaran data, yang pada gilirannya dapat mempengaruhi reputasi perusahaan dan keamanan kerja para karyawan.Kepedulian terhadap pengelolaan risiko AI juga mengingatkan bahwa pemahaman tentang keamanan siber dan manajemen identitas menjadi semakin penting. Meskipun teknologi AI menawarkan potensi besar untuk meningkatkan efisiensi kerja, penting untuk memastikan bahwa penggunaan teknologi tersebut tidak mengabaikan aspek keamanan yang esensial. Oleh karena itu, bagi para pemuda Indonesia yang ingin berkarier di bidang teknologi, memiliki pengetahuan dan keterampilan di sekitar pengelolaan, keamanan, dan pemahaman risiko teknologi adalah langkah strategis yang harus diambil.
