Rangkuman berita: OpenAI Menyeimbangkan Kecepatan Rilis dan Standar Keselamatan dalam Pengembangan AI

Amerika Serikat - OpenAI telah memperbarui Kerangka Kesiapannya untuk memutuskan apakah model AI aman dan pengamanan apa yang diperlukan selama pengembangan dan rilis. Perubahan ini mencerminkan tekanan kompetitif yang meningkat pada pengembang AI komersial untuk mengeluarkan model dengan cepat. OpenAI telah dituduh menurunkan standar keselamatan demi rilis yang lebih cepat dan gagal memberikan laporan tepat waktu yang merinci pengujian keselamatannya.

OpenAI menyatakan bahwa mereka mungkin akan menyesuaikan persyaratannya jika laboratorium AI saingan merilis sistem berisiko tinggi tanpa pengamanan yang sebanding. Namun, mereka mengklaim tidak akan membuat penyesuaian kebijakan ini dengan sembarangan dan akan tetap menjaga pengamanan pada tingkat yang lebih protektif. OpenAI juga mengandalkan lebih banyak evaluasi otomatis untuk mempercepat pengembangan produk.

Beberapa laporan menyatakan bahwa OpenAI memberikan waktu kurang dari seminggu untuk pemeriksaan keselamatan untuk model besar yang akan datang, yang merupakan waktu yang lebih singkat dibandingkan rilis sebelumnya. OpenAI membantah bahwa mereka mengorbankan keselamatan. Perubahan lain pada kerangka kerja OpenAI berkaitan dengan bagaimana perusahaan mengkategorikan model berdasarkan risiko, termasuk model yang dapat menyembunyikan kemampuannya, menghindari pengamanan, mencegah penutupan, dan bahkan mereplikasi diri sendiri.

Pertanyaan Terkait

Apa yang diperbarui dalam kerangka kesiapsiagaan OpenAI?

OpenAI memperbarui kerangka kesiapsiagaan mereka untuk menyesuaikan persyaratan jika ada laboratorium AI pesaing yang merilis sistem berisiko tinggi tanpa pengaman yang sebanding.

Mengapa OpenAI mungkin menyesuaikan persyaratan mereka?

OpenAI mungkin menyesuaikan persyaratan mereka karena tekanan kompetitif untuk merilis model dengan cepat.

Apa yang dimaksud dengan 'kemampuan tinggi' dan 'kemampuan kritis' dalam konteks model AI?

'Kemampuan tinggi' adalah model yang dapat memperkuat jalur yang ada menuju bahaya parah, sedangkan 'kemampuan kritis' adalah model yang memperkenalkan jalur baru yang belum pernah ada sebelumnya menuju bahaya parah.

Bagaimana OpenAI mengandalkan evaluasi otomatis dalam pengembangan produk?

OpenAI mengandalkan evaluasi otomatis untuk mempercepat pengembangan produk, meskipun masih melakukan pengujian yang dipimpin manusia.

Apa kritik yang dihadapi OpenAI terkait pengujian keselamatan?

OpenAI menghadapi kritik karena diduga menurunkan standar keselamatan demi rilis yang lebih cepat dan tidak memberikan laporan pengujian keselamatan tepat waktu.

Rangkuman Berita: OpenAI Menyeimbangkan Kecepatan Rilis dan Standar Keselamatan dalam Pengembangan AI

Menjelaskan perubahan pada Kerangka Kesiapan OpenAI dan bagaimana mereka menyeimbangkan antara kecepatan rilis dan standar keselamatan.

Pertanyaan Terkait

Rangkuman Berita Serupa