TLDR
Pembatasan rilis model canggih dapat membantu perusahaan besar menjaga keunggulan kompetitif. Ada kekhawatiran bahwa model AI dapat disalahgunakan untuk menemukan eksploitasi keamanan yang berbahaya. Perusahaan keamanan siber kecil berusaha menunjukkan bahwa model yang lebih kecil juga dapat efektif dalam mengatasi masalah keamanan. Anthropic meluncurkan model AI Mythos yang mampu menemukan celah keamanan perangkat lunak penting tapi membatasi aksesnya hanya kepada korporasi besar seperti AWS dan JPMorgan untuk menghindari penyalahgunaan. OpenAI juga mempertimbangkan pendekatan serupa untuk alat keamanan siber mereka berikutnya. Langkah ini membantu perusahaan besar mendahului aktor jahat yang bisa menggunakan AI untuk mengeksploitasi kelemahan sistem.Selain kekhawatiran keamanan, strategi pembatasan ini juga terkait dengan upaya menghambat distilasi model AI, yang dapat digunakan oleh kompetitor untuk membuat model murah dan menyaingi laboratorium frontier. Anthropic, Google, dan OpenAI bahkan bekerja sama memblokir aktor yang mencoba mendistilasi model mereka secara ilegal. Pendekatan ini memperkuat posisi bisnis frontier labs yang mengandalkan kontrak enterprise besar.Meskipun Mythos memiliki kemampuan melebihi model sebelumnya, Opus, ada startup lain yang berhasil mereplikasi hasil serupa dengan model lebih kecil. Ini menandakan bahwa tak ada satu model sempurna di keamanan siber. Ke depan, pembatasan akses dan kolaborasi antara laboratorium besar kemungkinan memperketat kontrol teknologi AI canggih sekaligus menjaga keamanan dan profitabilitas.
