Courtesy of TheVerge
Rangkuman Berita: Pemenang Turing Award terbaru kembali memperingatkan tentang bahaya AI.
Share
Ikhtisar 15 Detik
- Pentingnya pengujian menyeluruh sebelum merilis produk AI.
- Risiko yang terkait dengan pengembangan AI yang terburu-buru.
- Perlu adanya fokus pada keselamatan dan etika dalam pengembangan teknologi AI.
Dua ilmuwan, Andrew Barto dari Universitas Massachusetts dan Richard Sutton, mantan ilmuwan riset di DeepMind, baru saja menerima Turing Award tahun ini karena menciptakan teknik pelatihan kecerdasan buatan (AI) yang penting. Mereka memperingatkan bahwa banyak perusahaan AI terburu-buru merilis produk tanpa pengujian yang memadai, yang bisa berbahaya. Barto menyamakan pengembangan AI dengan membangun jembatan dan mengujinya dengan membiarkan orang menggunakannya. Mereka menekankan pentingnya mengutamakan keselamatan dalam pengembangan teknologi.
Barto juga mengkritik perusahaan AI yang lebih fokus pada keuntungan bisnis daripada penelitian yang aman. Beberapa tokoh penting dalam dunia AI, termasuk pendiri OpenAI, telah mengeluarkan pernyataan yang menyatakan bahwa mengurangi risiko dari AI harus menjadi prioritas global. OpenAI sendiri telah berjanji untuk meningkatkan keselamatan AI, tetapi juga berusaha untuk menjadi perusahaan yang menguntungkan.
Pertanyaan Terkait
Q
Siapa yang menerima penghargaan Turing tahun ini?A
Andrew Barto dan Richard Sutton menerima penghargaan Turing tahun ini.Q
Apa yang menjadi fokus utama dari Andrew Barto dan Richard Sutton?A
Mereka fokus pada teknik pelatihan AI dan keamanan dalam pengembangan produk AI.Q
Mengapa mereka mengkhawatirkan pengembangan AI saat ini?A
Mereka mengkhawatirkan bahwa perusahaan AI tidak melakukan pengujian yang memadai sebelum merilis produk.Q
Apa itu reinforcement learning?A
Reinforcement learning adalah metode pembelajaran mesin yang melatih sistem AI untuk membuat keputusan yang dioptimalkan melalui trial and error.Q
Apa yang dikatakan OpenAI tentang keselamatan AI?A
OpenAI berkomitmen untuk meningkatkan keselamatan AI meskipun menghadapi tantangan dalam komersialisasi.Rangkuman Berita Serupa
Teknologi
1 bulan lalu
92 dibaca
Pelopor pembelajaran penguatan yang merupakan pemenang penghargaan Turing.
Teknologi
2 bulan lalu
144 dibaca
Wawancara Axios: Hassabis dari Google memperingatkan tentang bahaya perlombaan AI.
Teknologi
2 bulan lalu
132 dibaca
CEO OpenAI Sam Altman mengakui bahwa manfaat AI mungkin tidak akan didistribusikan secara luas.
Teknologi
4 bulan lalu
57 dibaca
Lepaskan atau Tekan AI? Mencari Titik Tengah
Teknologi
5 bulan lalu
57 dibaca
Jalan ilmiah AI menuju kepercayaan
Teknologi
5 bulan lalu
97 dibaca