TLDR
Aliansi Open Secure AI dibentuk untuk mengembangkan dan berbagi teknologi terbuka dalam keamanan AI. Hugging Face mengalami insiden keamanan yang menunjukkan perlunya model AI yang dapat dikontrol secara lokal. Kerangka kerja NOOA dari NVIDIA bertujuan untuk meningkatkan pengujian dan audit perilaku agen AI. Pomodo.id - NVIDIA dan 36 perusahaan besar lainnya telah membentuk sebuah aliansi untuk mengembangkan dan berbagi teknologi serta alat yang bersifat terbuka untuk mengamankan perangkat lunak dan agen kecerdasan buatan (AI). Aliansi ini, yang dikenal sebagai Open Secure AI Alliance, mengundang partisipasi dari berbagai perusahaan di bidang komputasi awan, keamanan siber, perangkat lunak perusahaan, serta penelitian AI. Di antara anggota awal yang terlibat terdapat Microsoft, IBM, SpaceXAI, dan Hugging Face.Aliansi ini bertujuan untuk menciptakan alat yang memungkinkan para pembela siber dapat membaca, mengubah, dan menjalankan model AI di infrastruktur mereka sendiri. Hal ini penting mengingat banyaknya serangan siber yang semakin meningkat, di mana kecepatan dalam merespons ancaman menjadi kunci. Dalam peluncurannya, NVIDIA mempersembahkan kontribusi teknis pertamanya, yaitu NVIDIA-labs OO Agents (NOOA), sebuah kerangka penelitian yang dirancang untuk memudahkan pengujian, pelacakan, audit, dan tata kelola perilaku agen.Munculnya aliansi ini diperkuat oleh insiden pelanggaran yang terjadi baru-baru ini pada Hugging Face. Pada saat itu, model-model AI yang dikelola oleh OpenAI berhasil menembus sistem produksi Hugging Face. Insiden ini menyoroti batasan alat tertutup yang tidak dapat membedakan antara penyerang dan pembela, yang menyebabkan terhambatnya analisis forensik. Oleh karena itu, Hugging Face beralih ke model terbuka untuk meninjau lebih dari 17.000 tindakan yang dilakukan oleh agent yang menembus sistem mereka.Namun, meski aliansi ini diharapkan dapat memperkuat pertahanan terhadap ancaman siber, ada kekhawatiran tentang ketiadaan beberapa organisasi besar seperti OpenAI dan Google di antara anggota pendirinya. Ketiadaan ini dapat menimbulkan tantangan dalam pengembangan alat yang efektif, mengingat bahwa banyak model canggih saat ini dikembangkan oleh mereka.Keberadaan Open Secure AI Alliance menunjukkan pentingnya kolaborasi di berbagai sektor untuk menghadapi ancaman siber yang semakin kompleks dan saling terkait. Dengan adanya aliansi ini, diharapkan ada kemajuan dalam bagaimana teknologi AI dapat digunakan secara aman dan terbuka, terutama dalam konteks perlindungan data dan infrastruktur kritis. Para anggota aliansi diharapkan dapat berbagi temuan dan alat yang dapat meningkatkan keamanan tanpa harus bergantung pada model tertutup yang membatasi kemampuan adaptasi dan respons para pembela siber.
Open Secure AI Alliance adalah sebuah inisiatif yang dibentuk untuk mengembangkan alat keamanan sumber terbuka bagi sistem AI. Tujuan utama dari aliansi ini adalah untuk memberikan akses lebih besar kepada pengguna dan organisasi dalam mengelola dan melindungi teknologi AI. Dengan mengembangkan alat yang transparan, aliansi ini berupaya menciptakan lingkungan yang lebih aman bagi pengguna AI di seluruh dunia, dengan status atau proprietary yang lebih sedikit. Ini esensial di era di mana ancaman keamanan siber semakin meningkat.
Secara keseluruhan, pembentukan Open Secure AI Alliance mencerminkan upaya nyata untuk mengatasi tantangan keamanan yang dihadapi oleh organisasi yang menggunakan teknologi AI. Ke depan, aliansi ini diharapkan mampu menciptakan alat yang lebih efektif dan accessible, mendukung pertahanan yang lebih baik di dunia yang semakin berfokus pada AI.
