TLDR
Visibilitas adalah langkah pertama yang penting dalam mengelola agen AI dan menerapkan prinsip Zero Trust. Organisasi harus mengutamakan penemuan dan pemantauan terus-menerus sebelum menerapkan kontrol keamanan. Identitas agen perlu dikelola secara terpisah untuk memastikan pengawasan dan kebijakan akses yang efektif. Pomodo.id - Di era digital ini, penggunaan agen AI dalam organisasi semakin meningkat dan begitu juga dengan risiko yang terkait. Terdapat sebuah pergeseran penting dalam cara kita memandang agen AI. Sebelumnya, banyak organisasi yang fokus pada kecepatan dalam menerapkan agen AI dengan harapan meningkatkan produktivitas. Namun, serangkaian insiden keamanan seperti kebocoran data yang dialami oleh Hugging Face telah membuat banyak pihak berpikir dua kali. Mereka mulai menyadari bahwa kecepatan penerapan teknologi harus diimbangi dengan visibilitas dan pengawasan yang memadai.Data dari Veeam menunjukkan bahwa 70% organisasi mengakui bahwa alur kerja AI telah berinteraksi dengan data sensitif perusahaan tanpa pengawasan yang penuh. Bahkan, 67% dari mereka juga mengatakan bahwa tim IT tidak dapat melacak sepenuhnya alur kerja otonom yang dibuat oleh karyawan. Hal ini menunjukkan bahwa meskipun agen AI mempermudah pekerjaan, tanpa adanya visibilitas yang baik, risiko kebocoran data bisa sangat tinggi. Fenomena yang dikenal sebagai "Shadow AI" menjadi salah satu tantangan besar dalam hal ini, di mana penggunaan agen AI terjadi tanpa sepengetahuan atau kontrol resmi dari pihak IT.
Shadow AI mengacu pada penggunaan sistem dan proses AI yang tidak terpantau dalam organisasi. Ini bisa menjadi masalah serius karena agen AI dapat mengambil tindakan tanpa persetujuan dari manajemen, berpotensi mengekspos data sensitif. Istilah ini menggambarkan bagaimana agen-agen AI bisa beroperasi di luar batasan yang diatur sebelumnya, membahayakan data perusahaan. Meskipun tujuan dari teknologi adalah untuk meningkatkan efisiensi, jika tidak diawasi dengan baik, hasilnya bisa berbalik merugikan organisasi.
Di sisi lain, agen AI juga mempercepat potensi kebocoran informasi. Pendataan yang dilakukan oleh GitGuardian menunjukkan bahwa komitmen yang dihasilkan dengan bantuan AI mengungkapkan rahasia dua kali lebih sering dibandingkan komitmen yang ditulis oleh manusia. Hal ini mengindikasikan bahwa kemudahan dalam pengembangan perangkat lunak melalui agen AI dapat berujung pada pengungkapan kredensial yang tidak diinginkan. Ketika agen AI dapat membaca, memodifikasi, dan berinteraksi dengan berbagai layanan hanya dalam waktu yang singkat, ini menciptakan peluang bagi kesalahan yang berbiaya tinggi.Situasi ini membawa implikasi serius bagi para profesional muda di Indonesia, seperti mahasiswa, lulusan baru, dan pekerja awal. Mereka mungkin membutuhkan keterampilan baru dalam pengelolaan dan pengawasan agen AI dan alur kerja yang dihasilkan. Dalam waktu dekat, pengembangan kompetensi di bidang keamanan siber dan pemahaman terhadap visi dari teknologi ini akan menjadi penting. Ketersediaan pekerjaan dalam sektor teknologi informasi, khususnya yang berfokus pada pengawasan dan keamanan sistem berbasis AI, diprediksi akan meningkat.Perkembangan ini mencerminkan pentingnya pendekatan yang seimbang antara inovasi teknologi dan pengendalian risiko. Oleh karena itu, mahasiswa dan pekerja muda di Indonesia harus bersiap untuk memasuki dunia kerja yang semakin mengedepankan pentingnya pemahaman mengenai visibilitas dan keamanan dalam penggunaan teknologi, khususnya di bidang AI. Apabila mereka dapat beradaptasi dengan situasi ini, mereka tidak hanya akan lebih siap dalam menghadapi tantangan, tetapi juga dapat berkontribusi pada pertumbuhan industri yang lebih aman dan efisien di masa depan.
