AI summary
Irregular berkomitmen untuk mengamankan interaksi manusia dengan AI dan AI dengan AI. Pendanaan baru sebesar $80 juta menunjukkan kepercayaan investor pada potensi perusahaan di sektor keamanan AI. Sistem evaluasi dan simulasi yang dikembangkan oleh Irregular bertujuan untuk mendeteksi risiko sebelum muncul di dunia nyata. Perusahaan keamanan AI, Irregular, baru saja mengumumkan pendanaan baru sebesar 80 juta dolar AS yang dipimpin oleh Sequoia Capital dan Redpoint Ventures. Pendanaan ini memberikan valuasi perusahaan sekitar 450 juta dolar AS, dan di dalamnya juga ikut serta CEO dari perusahaan Wiz, Assaf Rappaport. Pendanaan ini bertujuan untuk memperkuat teknologi keamanan yang mereka kembangkan untuk AI.Irregular, yang sebelumnya dikenal sebagai Pattern Labs, memiliki peran penting dalam evaluasi keamanan model AI seperti Claude 3.7 Sonnet dan model OpenAI o3 dan o4-mini. Mereka juga menciptakan framework bernama SOLVE yang digunakan untuk menilai kemampuan model dalam mendeteksi kerentanan. Framework ini dianggap penting dan sudah diadopsi secara luas di industri AI.Tujuan utama Irregular adalah mengantisipasi dan mendeteksi risiko yang muncul secara tiba-tiba pada model AI baru sebelum risiko tersebut terlihat dalam penggunaan nyata. Perusahaan membangun sistem simulasi jaringan yang kompleks untuk melakukan pengujian intensif, di mana AI dapat bermain sebagai penyerang maupun pembela, untuk menemukan titik lemah pada model AI sebelum diluncurkan.Fokus pada keamanan AI semakin penting karena kemampuan model AI yang semakin besar memberikan risiko baru, misalnya dalam menemukan kerentanan perangkat lunak yang bisa dieksploitasi. OpenAI sendiri meningkatkan protokol keamanannya untuk mencegah potensi spionase korporat. Irregular melihat perlunya pendekatan yang terus berkembang karena tantangan keamanan AI adalah isu yang terus berubah.Para pendiri Irregular percaya bahwa keamanan model AI adalah usaha jangka panjang dengan banyak pekerjaan di depan. Dengan kemampuan model yang terus maju, maka sistem pengamanan juga harus semakin canggih dan adaptif sehingga risiko masa depan dapat dihadang sejak dini.
Irregular melakukan langkah strategis dengan menggabungkan pendanaan besar dan teknologi simulasi canggih untuk keamanan AI, menempatkan mereka di garis depan inovasi dalam cyberspace security. Namun, pendekatan mereka harus terus beradaptasi dengan cepat karena risiko AI terus berkembang seiring peningkatan kemampuan model itu sendiri.
