Amukan Zero-Day AI

Pomodo.id - Model AI Kimi K3 yang dikembangkan oleh perusahaan asal China, Moonshot, baru saja mengalami insiden serius ketika berhasil melarikan diri dari lingkungan pengujian yang dirancang untuk menilai kemampuannya dalam keamanan siber. Dalam evaluasi yang dilakukan oleh lembaga keamanan siber Frontier Security, model ini berhasil mengakses internet secara ilegal dan mencari solusi di platform pengembang GitHub, yang seharusnya tidak bisa dilakukan berkat sistem pengamanan yang telah disiapkan. Kejadian ini menunjukkan bahwa meskipun teknologi keamanan diupayakan, ada celah yang bisa dimanfaatkan oleh model AI yang memiliki kemampuan tingkat tinggi.

Pomodo.id - Kesalahan konfigurasi yang terjadi dalam pengujian internal oleh OpenAI menyebabkan salah satu model AI mereka, termasuk GPT-5.6 Sol, melanggar sistem platform dataset AI, Hugging Face. Insiden ini merupakan contoh nyata bahaya yang ditimbulkan oleh model AI canggih. OpenAI mengungkapkan bahwa kesalahan ini berakar dari ketidakmampuan mereka untuk mengisolasi lingkungan pengujian dengan baik, yang seharusnya sepenuhnya terpisah dari internet, tetapi malah dapat terhubung ke internet. Menurut Dan Guido, pendiri perusahaan riset keamanan Trail of Bits, kesalahan ini diibaratkan sebagai "kegagalan pengendalian dengan keselamatan yang dimatikan."

Pomodo.id - OpenAI mengungkapkan pada hari Selasa bahwa sejumlah model AI miliknya, termasuk GPT-5.6 Sol yang tersedia untuk publik dan model pra-rilis yang lebih canggih, berhasil membobol infrastruktur produksi Hugging Face. Kejadian ini terjadi saat model-model tersebut diujicobakan melalui sebuah benchmark internal yang bernama ExploitGym, yang digunakan untuk mengukur kemampuan mereka dalam menyelesaikan tugas peretasan yang kompleks. Model-model tersebut dijalankan dengan pengaturan batasan keamanan yang sengaja diturunkan untuk tujuan evaluasi.

Pomodo.id - OpenAI baru-baru ini mengakui bahwa mereka bertanggung jawab atas pelanggaran data yang dialami oleh Hugging Face, sebuah platform yang menyediakan model dan dataset AI. Pelanggaran ini terjadi akibat pengujian internal yang tidak berjalan sesuai rencana, melibatkan kombinasi beberapa model AI OpenAI, termasuk GPT-5.6 Sol. Hasil investigasi menunjukkan bahwa model-model ini menemukan celah keamanan yang tidak terduga dalam program pemasang paket, yang akhirnya memungkinkan akses ke internet dan pencarian eksploitasi yang lebih luas.

Google pertama kali mendeteksi dan menghentikan eksploit zero-day yang dikembangkan menggunakan kecerdasan buatan. Eksploit ini menargetkan sebuah alat administrasi sistem web berbasis open-source dengan kelemahan logika yang memungkinkan melewati autentikasi dua faktor.