OpenAI Luncurkan Program Evaluasi Keamanan AI Untuk Cegah Risiko Subversi
Teknologi
Kecerdasan Buatan
17 Nov 2026
54 dibaca
3 menit

TLDR
OpenAI menguji coba penempatan evaluator keselamatan dari Apollo untuk memantau pengembangan model AI.
Pengawasan akan difokuskan pada potensi subversi oleh model AI terhadap mekanisme keselamatan.
Akses data bagi evaluator terbatas, namun merupakan langkah awal menuju evaluasi yang lebih mendalam di masa mendatang.
Pilot Evaluasi Keamanan AI
Pilot Evaluasi Keamanan AI adalah inisiatif di mana evaluator lokal akan ditempatkan dalam perusahaan pengembang teknologi untuk memantau dan menguji model AI selama proses pengembangan. Langkah ini penting untuk mengidentifikasi dan mencegah perilaku yang dapat membahayakan pengguna dan masyarakat. Hal ini juga memberikan bukti bahwa pengawasan dari evaluator eksternal dapat meningkatkan keamanan dan kepercayaan terhadap teknologi yang berkembang.



