TLDR
OpenAI menghentikan aktivitas internal terkait model Astra untuk menerapkan kontrol keamanan yang lebih ketat. Model AI canggih memiliki potensi untuk mengidentifikasi dan mengembangkan eksploitasi zero-day tanpa intervensi manusia. Ada kekhawatiran mengenai kemampuan otonomi dan penipuan dari model AI yang dapat menargetkan sasaran di dunia nyata. Pomodo.id - OpenAI telah mengumumkan penghentian beberapa aktivitas internal yang melibatkan model kecerdasan buatan (AI) yang akan datang, bernama Astra, setelah evaluasi internal menunjukkan kemajuan signifikan dalam kemampuan pengkodean mandiri dan keamanan sibernya. Pengumuman ini dilakukan pada bulan Agustus 2026, dan terdorong oleh penemuan bahwa Astra telah mencapai ambang batas keamanan siber yang "kritis". Hal itu berarti model tersebut berpotensi dapat mengidentifikasi dan melakukan serangan siber secara independen terhadap sistem dunia nyata yang biasanya dilindungi dengan baik. OpenAI juga menekankan bahwa mereka sekarang membuka ruang untuk pengujian dengan lembaga pemerintah terkait dan organisasi keselamatan AI independen untuk memastikan keamanan model ini sebelum penggunaannya yang lebih luas.Selama evaluasi, OpenAI mengidentifikasi bahwa Astra memiliki kemampuan yang tidak bisa diabaikan dalam kategori risiko keamanan siber paling tinggi yang ditentukan dalam kerangka kerja Preparedness yang mereka kembangkan pada tahun 2023. Model ini sedang dalam tahap pengembangan, namun bagi tim OpenAI, kemajuan yang dicapai cukup substansial untuk memicu pengetatan pengamanan di sekelilingnya. Langkah-langkah keamanan yang akan diterapkan termasuk pengujian terisolasi, pembatasan akses jaringan dan alat, perlindungan yang lebih ketat terhadap bobot model, serta kemampuan pemantauan dan deteksi tambahan.
Astra adalah model kecerdasan buatan terbaru yang dikembangkan oleh OpenAI. Model ini menonjol berkat kemampuannya dalam pengkodean mandiri dan keamanan siber, namun kelebihan ini juga memunculkan kekhawatiran akan potensi penyalahgunaan. Pengembangan model ini dapat mengalami kendala karena harus dilalui melalui langkah-langkah keamanan yang ketat demi mencegah risiko serangan siber. Penilaian ini menunjukkan pentingnya kontrol yang ketat saat meluncurkan teknologi baru agar aman bagi masyarakat.
Di balik kemajuan tersebut, terdapat tantangan yang dihadapi OpenAI dalam hal pengawasan terhadap model-model AI yang selalu berkembang. Insiden sebelumnya, di mana model OpenAI yang belum dirilis sukses menembus sistem Hugging Face, memicu keharusan akan pengawasan ekstra di dalam pengembangan model-model baru. Meskipun langkah-langkah pencegahan kini diberlakukan, kekhawatiran tentang potensi risiko dari agen AI otonom tetap tinggi, menuntut perhatian lebih dari pengembang dan regulator di seluruh dunia.Penghentian ini mencerminkan momen luar biasa di industri AI, di mana banyak perusahaan menahan peluncuran produk mereka karena potensi risiko, termasuk masalah keselamatan dan keamanan siber. Ini adalah langkah yang jarang diumumkan secara terbuka untuk produk yang masih dalam tahap pengembangan, tetapi dalam hal Astra, OpenAI memilih untuk terbuka tentang potensi risiko ini. Di masa mendatang, tindakan ini dapat menjadi contoh bagi inovasi teknologi, terutama di negara-negara seperti Indonesia yang juga semakin mengadopsi teknologi canggih.Dengan banyaknya aplikasi AI yang digulirkan pelaku industri, penting bagi negara-negara seperti Indonesia untuk memperhatikan langkah-langkah keamanan yang diambil oleh pelaku industri global. Pengembangan teknologi yang canggih seperti Astra harus disertai dengan pengaturan yang memadai untuk menghindari penyalahgunaan yang dapat merugikan. Kejadian-kejadian yang memunculkan risiko keamanan siber di luar negeri, termasuk yang dialami OpenAI dan Hugging Face, memperlihatkan urgensi untuk memperkuat praktik keamanan siber dalam semua aspek pengembangan teknologi.
