Irregular Kumpulkan 80 Juta USD Untuk Amankan Model AI Masa Depan

Irregular, sebuah perusahaan keamanan AI, baru-baru ini mengumumkan pendanaan sebesar 80 juta dolar Amerika Serikat yang dipimpin oleh Sequoia Capital dan Redpoint Ventures. Pendanaan ini menempatkan valuasi perusahaan pada angka 450 juta dolar Amerika Serikat, menandakan pentingnya peran mereka di bidang keamanan AI.Perusahaan ini dikenal luas lewat framework SOLVE yang digunakan untuk mengevaluasi kerentanan berbagai model AI, termasuk beberapa model dari OpenAI dan Anthropic. Irregular fokus pada analisis mendalam dengan menggunakan simulasi kompleks untuk menguji keamanan model AI sebelum mereka diluncurkan ke publik.Dan Lahav, salah satu pendiri Irregular, menyatakan bahwa interaksi antara manusia dan AI maupun antara model AI sendiri akan membuka celah keamanan baru yang harus diantisipasi sedini mungkin. Itulah alasan utama mengapa pengujian keamanan terus berkembang.Pendiri lainnya, Omer Nevo, menjelaskan bagaimana mereka menggunakan simulasi jaringan di mana AI dapat berperan sebagai penyerang dan sebagai penjaga. Simulasi ini membantu mendeteksi titik lemah pada model sebelum risiko tersebut benar-benar digunakan oleh pihak berbahaya di dunia nyata.Keamanan menjadi perhatian utama di industri AI karena kemampuan model yang makin canggih juga berpotensi digunakan untuk menemukan celah perangkat lunak hingga potensi spionase korporat. Irregular melihat ini sebagai tantangan berkelanjutan dan terus berupaya mengembangkan teknologi untuk menjaga keamanan AI selama perkembangan mereka.