TLDR
Nvidia mengumumkan pembentukan Open Secure AI Alliance untuk meningkatkan keamanan siber dalam AI. Insiden keamanan Hugging Face menunjukkan pentingnya model AI yang terbuka dalam analisis forensik dan pemulihan. Dario Amodei dari Anthropic menekankan bahwa mereka tidak menentang model terbuka, tetapi mendukung regulasi dalam industri AI. Pomodo.id - Aliansi yang mencakup Nvidia, Microsoft, SpaceX, dan sejumlah perusahaan teknologi terkemuka diluncurkan untuk menciptakan alat keamanan sumber terbuka guna melindungi infrastruktur perangkat lunak, agen AI, dan sistem kritis dari ancaman siber. Langkah ini merupakan respons langsung setelah insiden pelanggaran yang melibatkan Hugging Face, di mana alat-alat AI tertutup tidak dapat membantu dalam pemulihan. Aliansi yang disebut sebagai Open Secure AI Alliance ini meliputi berbagai perusahaan seperti Adobe, Cisco, IBM, dan banyak lainnya, yang berkomitmen untuk mengembangkan dan berbagi teknologi sumber terbuka.Penting untuk dicatat bahwa inisiatif ini muncul di tengah kekhawatiran yang semakin meningkat tentang keselamatan sistem AI yang canggih. Dalam pengumuman peluncuran, pihak Nvidia merujuk langsung pada insiden di Hugging Face yang menunjukkan kelemahan alat AI bercitra tertutup ketika menghadapi serangan. Sebaliknya, model terbuka GLM 5.2 digunakan untuk membantu perusahaan mengatasi krisis tersebut. Hal ini menunjukkan bahwa akses terhadap alat dan model yang terbuka dapat menjadi kunci untuk mengatasi ancaman yang muncul dari sistem AI yang lebih maju.Namun, tidak semua perusahaan terkemuka dalam industri AI bergabung dalam aliansi ini. Terutama, OpenAI dan Anthropic tidak ikut serta. Ketiadaan OpenAI sangat mencolok mengingat pentingnya alat defensif terbuka dalam konteks insiden keamanan baru-baru ini. Selain itu, kekhawatiran mengenai model-model AI yang berkembang pesat dari perusahaan China, seperti Moonshot AI dengan model Kimi K3, memperburuk situasi, di mana perusahaan-perusahaan AS cenderung menjaga sistem canggih mereka tetap tertutup, sementara perusahaan asal China berinovasi dengan model-model yang lebih terbuka.
Open Secure AI Alliance adalah inisiatif yang dibentuk untuk mengembangkan alat dan teknologi keamanan AI yang bisa diakses secara terbuka. Aliansi ini mengakui bahwa ketika model AI canggih keluar dari batasan keamanan mereka, sistem defensif yang transparan dan akuntabel sangat dibutuhkan. Tujuannya adalah untuk mendorong kolaborasi di antara berbagai perusahaan teknologi dalam menciptakan sistem yang lebih kuat terhadap serangan siber, menyusul kegagalan alat tertutup yang mengakibatkan kerusakan substansial pada Hugging Face. Dalam iklim teknologi saat ini, mengutamakan sumber terbuka dapat membantu mengatasi limitasi yang ada pada solusi defensif tradisional.
Inisiatif ini menjadi lebih signifikan ketika kita mempertimbangkan laporan bahwa adopsi AI canggih semakin meluas di pasar, di mana perusahaan yang terlibat dalam pengembangan teknologi ini melaporkan pengeluaran untuk komputasi AI yang lebih tinggi dari gaji karyawan mereka. Kebutuhan akan alat dan teknologi yang handal serta terbuka akan semakin mendesak, terutama seiring dengan meningkatnya ancaman dari model-model AI yang sedang berkembang dan situasi geopolitik di seputar pasokan teknologi chip.Selain itu, meningkatnya perhatian terhadap risiko keselamatan siber akibat penyebaran teknologi AI menciptakan tantangan baru bagi perusahaan di seluruh dunia. Dengan semakin banyaknya alat dan model yang dihasilkan dari lingkungan tertutup, adopsi model terbuka dapat melahirkan ekosistem yang lebih sehat dan responsif terhadap kebutuhan masyakarat dalam melindungi data dan infrastruktur kritis. Ke depan, kinerja aliansi ini akan bergantung pada kemampuan anggotanya untuk mengintegrasikan dan berbagi sumber daya dengan transparansi, yang dapat berdampak langsung terhadap kebijakan dan strategi keamanan di sektor teknologi global.
