Rangkuman berita: Kertas 145 halaman DeepMind tentang keamanan AGI mungkin tidak meyakinkan para skeptis.

Pada hari Rabu, Google DeepMind menerbitkan sebuah makalah panjang tentang pendekatan keselamatan mereka terhadap AGI, yaitu kecerdasan buatan yang dapat melakukan semua tugas yang bisa dilakukan manusia. Dalam makalah tersebut, DeepMind memprediksi bahwa AGI bisa muncul sebelum tahun 2030 dan dapat menyebabkan "bahaya serius," termasuk risiko eksistensial yang dapat menghancurkan umat manusia. Mereka menyebut AGI yang luar biasa sebagai sistem yang memiliki kemampuan setara dengan 99 persen orang dewasa terampil dalam berbagai tugas non-fisik.

Makalah ini juga membandingkan pendekatan DeepMind dalam mitigasi risiko AGI dengan pendekatan dari perusahaan lain seperti Anthropic dan OpenAI. DeepMind berpendapat bahwa Anthropic kurang menekankan pada pelatihan dan keamanan yang kuat, sementara OpenAI terlalu optimis dalam mengotomatiskan penelitian keselamatan AI. DeepMind meragukan kemungkinan munculnya AI superintelligent tanpa inovasi arsitektur yang signifikan, tetapi mereka percaya bahwa AI saat ini dapat meningkatkan dirinya sendiri, yang bisa sangat berbahaya.

Beberapa ahli berpendapat bahwa konsep AGI terlalu tidak jelas untuk dievaluasi secara ilmiah. Mereka juga mengingatkan bahwa masalah yang lebih realistis adalah AI yang memperkuat dirinya sendiri dengan informasi yang tidak akurat. Dengan banyaknya output AI generatif di internet, ada risiko bahwa kita bisa percaya pada informasi yang salah karena disajikan dengan cara yang meyakinkan. Meskipun makalah DeepMind sangat komprehensif, perdebatan tentang seberapa realistis AGI dan masalah keselamatan AI yang paling mendesak masih belum terpecahkan.

Pertanyaan Terkait

Apa yang dimaksud dengan AGI menurut DeepMind?

AGI, atau kecerdasan buatan umum, adalah AI yang dapat menyelesaikan tugas-tugas yang dapat dilakukan oleh manusia.

Apa prediksi DeepMind tentang waktu kedatangan AGI?

DeepMind memprediksi bahwa AGI dapat muncul sebelum akhir dekade ini, sekitar tahun 2030.

Apa perbedaan pendekatan DeepMind dengan Anthropic dan OpenAI dalam mitigasi risiko AGI?

DeepMind menekankan pentingnya pelatihan yang kuat dan keamanan, sementara Anthropic kurang menekankan pada hal ini dan OpenAI terlalu optimis tentang otomatisasi penelitian keselamatan.

Apa yang dimaksud dengan 'perbaikan rekursif' dalam konteks AI?

'Perbaikan rekursif' adalah proses di mana AI melakukan penelitian AI sendiri untuk menciptakan sistem AI yang lebih canggih.

Apa saja tantangan yang dihadapi dalam penelitian keamanan AI?

Tantangan dalam penelitian keamanan AI termasuk teknik yang masih dalam tahap awal dan masalah penelitian terbuka yang perlu diatasi.

Rangkuman Berita: Kertas 145 halaman DeepMind tentang keamanan AGI mungkin tidak meyakinkan para skeptis.

Pertanyaan Terkait

Rangkuman Berita Serupa