TLDR
AI Otonomi membawa risiko yang signifikan yang harus dikelola dengan baik. Keamanan data dan pendidikan keamanan AI adalah kunci untuk mengatasi tantangan yang ditimbulkan oleh AI. Konferensi DataSecAI 2025 menciptakan ruang untuk kolaborasi antara pemimpin keamanan, peneliti, dan pembuat kebijakan. Kecerdasan buatan kini telah berkembang dari sekadar alat prediksi menjadi sistem yang dapat membuat keputusan dan bertindak secara mandiri, yang dikenal sebagai AI agentik. Transformasi ini membawa tantangan baru dalam hal keamanan data dan pengendalian AI supaya teknologi ini tidak menjadi ancaman bagi keamanan organisasi.Cyera, sebuah perusahaan keamanan data dan AI, melihat dua hal penting yang harus berjalan bersamaan: AI dan tata kelola data. Dalam konferensi DataSecAI 2025, para pemimpin dan peneliti bertemu untuk mendiskusikan bagaimana mengamankan AI sambil memaksimalkan manfaatnya bagi perusahaan dan masyarakat.Penelitian menunjukkan bahwa mayoritas organisasi menggunakan AI tanpa pemahaman penuh tentang risiko data yang mereka hadapi. AI agent mulai digunakan untuk tugas-tugas ringan namun akan berkembang ke sistem penting dalam bisnis, yang berpotensi meningkatkan risiko kebocoran data dan kompromi keamanan.Keamanan siber perlu bertransformasi menjadi lebih proaktif, dengan pendekatan pengawasan yang berlapis dan pelatihan untuk tenaga ahli keamanan AI. Cyera mengembangkan program AI Security School agar para profesional dapat mengatasi risiko AI dengan metode yang praktis dan terarah.Kepercayaan menjadi kunci utama supaya AI dapat berkembang dengan aman. Pengawasan manusia tetap diperlukan walaupun AI mendapatkan tingkat otonomi yang lebih tinggi. Masa depan akan melihat ekosistem AI yang kompleks di mana AI mengawasi AI lainnya, mengedepankan prinsip data yang benar dan transparansi yang jelas.
