TLDR
OpenAI mengklasifikasikan model Astra sebagai model dengan risiko siber tertinggi dan memperketat keamanan internal. Astra menunjukkan kemajuan signifikan dalam kemampuan pengkodean otonom dan kinerjanya di bidang keamanan siber. OpenAI berencana untuk bekerja sama dengan pemerintah dan organisasi keselamatan AI untuk memvalidasi kemampuan Astra sebelum diluncurkan. Pomodo.id - OpenAI mengumumkan bahwa mereka telah mengklasifikasikan model AI terbarunya, Astra, sebagai model dengan risiko keamanan siber tertinggi. Hal ini menyusul hasil pengujian internal yang menunjukkan kemampuan cyber ofensif yang canggih pada model tersebut. Klasifikasi ini menandakan bahwa Astra berpotensi memenuhi ambang batas "Kritis" yang ditentukan dalam Kerangka Kesiapan OpenAI. Langkah ini diambil sebagai respons terhadap temuan awal yang mengindikasikan bahwa model ini tidak dapat lagi dianggap aman tanpa pengawasan ketat.Evaluasi internal terbaru mengungkapkan kemajuan signifikan dalam kemampuan pengkodean mandiri dan performa keamanan siber Astra. Berdasarkan hasil tersebut, OpenAI berkomitmen untuk meningkatkan pengaturan keamanan internal sebelum meluncurkan model ini secara lebih luas. OpenAI juga berencana untuk bekerja sama dengan lembaga pemerintah dan organisasi keselamatan AI independen guna memverifikasi kemampuan Astra dan memperkuat langkah-langkah perlindungan sebelum diluncurkan.Sebagai catatan, Astra bukanlah model yang terlibat dalam insiden peretasan terhadap Hugging Face, meski insiden tersebut menunjukkan tantangan dalam pengembangan model AI. Insiden peretasan yang melibatkan model OpenAI lainnya menggarisbawahi pentingnya penerapan langkah keamanan yang lebih ketat. Klasifikasi "Kritis" ini pertama kalinya disematkan pada Astra, telah menandakan bahwa model tersebut harus berada di bawah pengawasan lebih ketat dalam pengembangan selanjutnya.OpenAI mendefinisikan ambang batas "Kritis" untuk keamanan siber sebagai kemampuan suatu model untuk menemukan dan mengembangkan eksploitasi keamanan (vulnerability) tanpa intervensi manusia, atau menyusun strategi novel untuk serangan cyber terhadap sistem kritis. Kategori ini menunjukkan tantangan yang perlu dihadapi oleh perusahaan dalam memastikan bahwa model AI yang berpotensi berbahaya dapat dikelola dengan aman.
Panduan Keamanan Kesiapan
Kerangka Kesiapan adalah panduan internal yang diperkenalkan oleh OpenAI untuk melacak risiko yang muncul dari sistem AI canggih. Kerangka ini membantu dalam penilaian dan pengelolaan risiko yang terkait dengan teknologi AI, sehingga penting bagi teknologi yang berkembang pesat ini untuk tetap berada dalam batasan keamanan yang telah ditetapkan.
Tentu saja, langkah-langkah yang diambil oleh OpenAI ini memiliki implikasi yang signifikan di masa depan. Dengan adanya pengawasan yang lebih ketat dan kolaborasi dengan pihak-pihak terkait, diharapkan potensi risiko yang muncul dari pengembangan AI yang lebih canggih dapat diminimalisir. Hal ini juga dapat memperkuat kepercayaan publik terhadap implementasi teknologi AI di berbagai sektor, termasuk dalam bidang ekonomi dan keamanan nasional.Ketika dunia semakin bergantung pada teknologi AI dan terutama dalam konteks pembuatan keputusan otomatis, inisiatif-inisiatif seperti yang diambil oleh OpenAI akan berperan penting dalam menjaga agar pengembangan teknologi ini tetap berjalan pada jalur yang aman dan bertanggung jawab.
