AI summary
Ada kekhawatiran nyata tentang dampak model AI pada keamanan siber. Model seperti Mythos dapat mempercepat penemuan kerentanan, tetapi juga menunjukkan pentingnya pertahanan yang kuat. Kerjasama antara pemerintah dan industri diperlukan untuk mendanai pengujian kerentanan perangkat lunak secara efektif. Anthropic meluncurkan Claude Mythos Preview, model bahasa AI dengan kemampuan tinggi untuk menemukan kerentanan keamanan. Anthropic membatasi aksesnya lewat program Glasswing untuk memberi waktu bagi industri keamanan menyesuaikan diri. Perdebatan muncul di industri mengenai dampak serius penemuan kerentanan yang meningkat oleh model ini.Riset AISLE menunjukkan kemampuan Mythos dapat direplikasi oleh AI lain yang lebih murah dan terbuka. NIST melaporkan lonjakan signifikan dalam penemuan CVE sejak 2020, dan kini memprioritaskan CVE kritis saja. Ini memperlihatkan bahwa tekanan terhadap infrastruktur keamanan sudah tinggi bahkan sebelum Mythos diperkenalkan.Meskipun Mythos menemukan banyak kerentanan, eksploitasi jarak jauh gagal karena pertahanan berlapis. Glasswing dinilai terlalu terbatas dan pendekatan transparansi ala prinsip Kerckhoffs dalam kriptografi diusulkan sebagai solusi jangka panjang. Siklus eksploitasi dan perbaikan kerentanan diprediksi akan terus berulang sampai sistem bertahan yang lebih terbuka dan kolaboratif terbentuk.
Model AI seperti Mythos memang mempercepat penemuan kerentanan namun tidak mengubah prinsip dasar keamanan yang mengandalkan pertahanan berlapis. Jika industri gagal beradaptasi dengan transparansi dan kolaborasi terbuka, siklus eksploitasi kerentanan hanya akan semakin parah dan merugikan banyak pihak.
