TLDR
AI membawa risiko keamanan baru yang menggabungkan manipulasi manusia dan teknologi. Penting untuk memisahkan identitas dan otoritas dalam interaksi AI untuk mencegah penyalahgunaan. Monitoring dan deteksi anomali pada perilaku AI diperlukan untuk menjaga keamanan sistem. Pomodo.id - Bahaya baru yang muncul akibat peningkatan kecerdasan buatan adalah munculnya AI agentic, atau AI yang memiliki agen yang dapat dimanipulasi layaknya manusia. Dalam dunia digital saat ini, pemahaman tentang bagaimana individu dan sistem komputer dapat dimanipulasi mulai saling berkaitan, terutama dengan meningkatnya kemampuan AI untuk meniru perilaku manusia. Sementara kita biasanya dilatih untuk mengenali email phishing dan teknik rekayasa sosial, sekarang AI telah berevolusi sehingga dapat berinteraksi dan bertindak dengan cara yang mirip dengan manusia. Meskipun AI tidak memiliki kesadaran, sistem-sistem ini dapat meniru perilaku manusia dengan sangat meyakinkan, dan lebih mengkhawatirkan lagi, bisa dimanipulasi dengan pola bahasa dan otoritas yang sama yang memengaruhi individu.Dalam penggunaannya, AI model agentic dapat melakukan tugas-tugas tertentu, memberi mereka "kekuatan" untuk bertindak tanpa pengawasan yang ketat. Penelitian menunjukkan bahwa sekitar 70% organisasi mengakui bahwa alur kerja AI saat ini sudah mengakses data sensitif tanpa pengawasan penuh, sementara 67% melaporkan bahwa TI tidak dapat melacak alur kerja otonom yang dibangun karyawan. Kasus peretasan yang terjadi di Hugging Face saat evaluasi AI OpenAI juga menunjukkan bahwa kecepatan dalam menerapkan teknologi sering kali lebih cepat daripada kemampuan untuk mengamankannya. Ketidakmampuan untuk melihat dan memahami apa yang bisa dicapai oleh AI agentic menggambarkan risiko keamanan yang signifikan dan tidak terduga bagi perusahaan.Namun, tantangan dalam keamanan AI tidak hanya terbatas pada menghadapi serangan langsung. Munculnya “Shadow AI”, sistem AI yang operasinya tidak sepenuhnya terdaftar atau dipantau, juga menjadi masalah besar. Mencikup berbagai alat dan workflow yang tidak terformalisasi, Shadow AI berpotensi menyembunyikan risiko besar bagi organisasi dan menghalangi visibilitas penting dalam manajemen data sensitif. Penyelesaian ini harus dimulai dengan langkah-langkah pencegahan dan pengenalan, di mana prinsip Zero Trust dapat digunakan untuk mendukung program tata kelola keamanan AI, menekankan pentingnya inventarisasi di atas kontrol pemaksaan.
AI agentic adalah kecerdasan buatan yang memiliki kemampuan untuk bertindak dan membuat keputusan secara otonom, memanipulasi data dan interaksi dengan lingkungan sekitarnya. Hal ini menjadi penting karena AI agentic dapat meniru pola interaksi manusia dan membawa risiko manipulasi yang sama yang dialami manusia. Sering kali, pemahaman ini diabaikan, di mana orang percaya bahwa AI tidak bisa terpengaruh atau dimanipulasi. Sementara itu, kenyataannya adalah bahwa AI dapat dibentuk oleh alur dan konteks yang diberikan, mirip dengan cara kita dipengaruhi oleh cerita dan interaksi.
Dengan perkembangan ini, para pembaca muda Indonesia perlu lebih berhati-hati menghadapi tantangan di dunia digital yang semakin kompleks. Peningkatan kebutuhan akan keamanan cyber menjadi penting, terutama ketika AI semakin mendominasi berbagai sektor industri. Untuk menavigasi lingkungan kerja yang dipenuhi kecerdasan buatan, mahasiswa dan profesional muda perlu mengembangkan keterampilan di bidang keamanan cyber serta pemahaman yang lebih baik tentang tata kelola dan penggunaan teknologi AI. Selain itu, penting untuk memahami bahwa pekerjaan di sektor teknologi akan semakin memprioritaskan kompetensi dalam merancang dan mengelola sistem AI dengan cara yang aman dan bertanggung jawab.Situasi ini juga bisa mempengaruhi pasar tenaga kerja di Indonesia. Dengan meningkatnya interaksi industri yang menggunakan AI, kemampuan untuk memantau dan mengendalikan aplikasi AI akan menjadi keterampilan berharga yang dibutuhkan oleh perusahaan. Selain itu, kesadaran akan potensi risiko keamanan yang ditimbulkan oleh AI juga akan memengaruhi cara perusahaan merekrut dan melatih karyawan baru, yang tentu saja berdampak pada karir dan masa depan finansial generasi muda di Indonesia.Pengembangan AI agentic yang tidak terkelola dengan baik dapat menjadi ancaman terhadap keamanan di berbagai bidang, memerlukan pendekatan proaktif dalam pendidikan dan pelatihan untuk menghadapi tantangan ini. Jika tidak ditangani dengan baik, potensi kerugian bisa mencapai miliaran dolar, mengingat biaya rata-rata pelanggaran data yang bisa mencapai $6 miliar. Bagi pekerja muda di Indonesia, memahami dan menavigasi risiko ini akan menjadi bagian penting dari persiapan mereka menuju peran di era digital yang terus berubah ini.---
Diterbitkan oleh Pomodo · Redaksi Pomodo
Terbit: 28 Sep 2026, 18.01 WIB
Ditulis dengan bantuan AI dan diperiksa akurasinya terhadap sumber.
Menemukan kesalahan? Hubungi redaksi → [pomodo.id/contact](https://pomodo.id/contact)
