TLDR
Keamanan siber harus diintegrasikan sejak awal dalam desain sistem AI. Pendekatan tradisional untuk keamanan tidak cukup efektif untuk menghadapi risiko baru dari AI. Organisasi perlu bekerja sama antar tim untuk mengelola ketidakpastian yang ditimbulkan oleh teknologi AI. Perkembangan AI dengan kemampuan LLM dan agen otonom membawa tantangan baru dalam keamanan siber yang tidak dapat diatasi oleh metode tradisional seperti firewall dan antivirus. Michelle Drolet, CEO Towerwall, menyoroti bahwa risiko seperti serangan data poisoning dan prompt injection memerlukan pendekatan keamanan baru.Pendekatan 'secure by design' melibatkan perlindungan di lapisan data, model, dan interface untuk menangkal manipulasi dan risiko tersembunyi pada AI. Framework seperti OWASP Top 10, MITRE ATLAS, dan NIST AI Risk Management Framework membantu organisasi mengembangkan strategi keamanan yang adaptif dan kolaboratif.Organisasi perlu mengadopsi validasi dinamis, kontrol berbasis konteks, dan monitoring perilaku AI secara berkelanjutan untuk menghadapi ketidakpastian dan perubahan model. Dengan demikian, mereka bisa mengurangi dampak serangan dan meningkatkan ketahanan dalam ekosistem AI yang berkembang pesat.
