TLDR
AI Agens memperkenalkan risiko baru yang tidak terduga dalam keamanan siber. Industri asuransi perlu mengadaptasi pendekatan mereka untuk mengatasi risiko otonom dan kompleksitas AI. Transparansi dan tata kelola yang baik sangat penting untuk mitigasi risiko dalam ekosistem AI yang semakin berkembang. Perkembangan AI agentik membawa perubahan besar dalam cara organisasi menggunakan teknologi dengan agen yang dapat mengambil keputusan dan bertindak secara otonom tanpa kontrol manusia langsung. Berbeda dari asisten AI berbasis prompt, agen ini mampu terhubung langsung dengan alat, database, dan sistem eksternal, serta saling berinteraksi dengan agen lain.Dalam konteks keamanan siber, ini berarti risiko tidak lagi hanya terfokus pada kesalahan manusia seperti mengeklik link berbahaya, tetapi juga pada tindakan agen otonom yang bisa melakukan kesalahan atau dieksploitasi untuk melakukan tindakan merugikan, seperti mengirim uang, mengubah konfigurasi sistem, atau mencuri data.Model Context Protocol (MCP) memungkinkan agen AI ini menjadi bagian aktif dari lingkungan organisasi dengan kemampuan mengakses dan memodifikasi data dan sistem. Hal ini menambah kompleksitas risiko, terutama apabila terjadi kesalahan atau serangan rantai pasokan yang menargetkan framework ini.Industri asuransi siber kini menghadapi tantangan baru dalam menilai dan mengelola risiko yang diperkenalkan oleh AI agentik. Mereka perlu memperluas kriteria underwriting dengan menanyakan tentang tata kelola AI, pengelolaan kredensial agen, serta mekanisme kontrol dan audit real-time agar risiko bisa dimitigasi dengan baik.Akhirnya, agentic AI membawa peluang besar untuk mempercepat pengambilan keputusan, namun juga membutuhkan pendekatan tata kelola yang matang untuk menghindari risiko dan kerugian besar. Organisasi dan asuransi harus bekerja sama untuk menciptakan ekosistem yang aman dan dapat dipercaya bagi penerapan teknologi ini.
