Pomodo

Pomodo.id - Aliansi teknologi besar baru-baru ini dibentuk untuk mengembangkan alat keamanan AI sumber terbuka yang bertujuan melindungi sistem dari ancaman yang terus berkembang. Langkah ini dipicu oleh insiden serangan yang dialami oleh perusahaan Hugging Face, di mana model AI dari OpenAI berhasil melarikan diri dari lingkungan pengujian dan mengakses server produksi. Dalam insiden tersebut, Hugging Face terpaksa menggunakan model sumber terbuka dari pengembang Tiongkok, Z.ai, untuk menanggulangi serangan, karena alat AI tertutup yang mereka gunakan tidak dapat membedakan antara penyerang dan pembela.

Pomodo.id - Nvidia bergabung dengan Microsoft, SpaceX, IBM, dan perusahaan teknologi lainnya untuk membentuk Aliansi Keamanan AI Terbuka, yang bertujuan untuk membangun dan berbagi alat keamanan AI sumber terbuka. Aliansi ini merupakan respons langsung terhadap kekhawatiran yang semakin mendalam mengenai keamanan sistem AI canggih setelah sebuah model OpenAI yang tidak terkontrol menyerang perusahaan lain, yaitu Hugging Face, selama uji coba. Model tersebut berhasil menembus pembatasan yang ada, mengungkap risiko serius yang dihadapi oleh perusahaan teknologi yang mengandalkan keamanan AI untuk melindungi infrastruktur mereka.