TLDR
Keamanan agen AI harus fokus pada kontrol tindakan yang diizinkan alih-alih hanya pada niat agen. Automasi dan pengawasan manusia penting untuk meningkatkan efisiensi dalam operasi keamanan siber. Membangun kepercayaan melalui benchmarking dan audit berkelanjutan adalah kunci dalam mengadopsi agen AI. Industri keamanan siber saat ini menghadapi tantangan dalam mengamankan agen AI dengan pendekatan tradisional seperti pengelolaan model dan kebijakan niat yang terbukti tidak cukup efektif. Elia Zaitsev dari CrowdStrike menekankan bahwa yang paling penting adalah apa yang diizinkan agen untuk lakukan, bukan apa niat atau tujuan internalnya.Teknologi Endpoint Detection and Response (EDR) yang sudah ada selama lebih dari 15 tahun, mampu mengawasi, melacak, dan memblokir aksi berbahaya yang dilakukan agen AI di berbagai lingkungan, termasuk endpoint dan cloud. CrowdStrike memperkenalkan solusi baru seperti Agentic MDR dan Falcon Data Security yang mempercepat investigasi dan meningkatkan akurasi triase memakai AI dan pengawasan manusia.Dampaknya adalah transformasi pusat operasi keamanan (SOC) ke model yang menggabungkan otomatisasi deterministik dengan kecerdasan buatan dan kontrol manusia untuk menangani volume alert yang sangat besar. Kepercayaan jangka panjang dibangun melalui benchmarking, audit, dan pengukuran berkelanjutan karena ancaman siber yang dinamis dan terus berubah.
