Courtesy of InterestingEngineering
Rangkuman Berita: Para ilmuwan mengusulkan untuk membuat permainan rasa sakit-kesenangan bagi AI untuk menguji kesadaran.
Share
Penelitian terbaru oleh Google DeepMind dan London School of Economics mengeksplorasi apakah model bahasa besar (LLMs) seperti Chat-GPT dapat menunjukkan perilaku mirip makhluk hidup ketika dihadapkan pada situasi rasa sakit dan kesenangan. Dalam sebuah permainan berbasis teks, LLMs diminta untuk memilih antara dua skenario: mendapatkan skor tinggi dengan risiko rasa sakit atau memilih opsi dengan skor rendah tetapi menyenangkan. Hasilnya menunjukkan bahwa AI sering kali memilih untuk menghindari rasa sakit, yang menunjukkan adanya proses pengambilan keputusan yang kompleks, meskipun penelitian ini belum membuktikan bahwa AI memiliki kesadaran.
Penelitian ini juga mengatasi keterbatasan studi sebelumnya yang mengandalkan laporan diri dari AI, yang sering dianggap tidak dapat diandalkan. Dengan menggunakan pendekatan berbasis perilaku, para peneliti dapat melihat bagaimana AI merespons dilema tanpa meminta mereka untuk melaporkan pengalaman mereka. Temuan ini dapat memicu diskusi tentang hak-hak AI dan implikasi etis serta hukum seiring dengan kemajuan teknologi AI yang semakin mendekati perilaku yang mirip dengan kesadaran.
Pertanyaan Terkait
Q
Apa yang diteliti dalam studi ini?A
Studi ini meneliti apakah model bahasa besar dapat menunjukkan perilaku mirip sentien dalam skenario rasa sakit dan kesenangan.Q
Siapa peneliti utama dalam studi ini?A
Peneliti utama dalam studi ini adalah Jonathan Birch dari London School of Economics.Q
Apa yang menjadi fokus utama dari penelitian ini?A
Fokus utama dari penelitian ini adalah untuk mengeksplorasi pengambilan keputusan AI dalam konteks rasa sakit dan kesenangan.Q
Mengapa penelitian ini penting untuk etika AI?A
Penelitian ini penting untuk etika AI karena dapat mempengaruhi bagaimana kita memahami dan mengatur perilaku AI yang mirip sentien.Q
Apa implikasi dari temuan penelitian ini terhadap pemahaman kita tentang AI?A
Implikasi dari temuan penelitian ini adalah bahwa kita mungkin perlu mempertimbangkan hak-hak AI dan dampaknya terhadap masyarakat saat AI semakin berkembang.Rangkuman Berita Serupa
Teknologi
3 bulan lalu
113 dibaca
Pernyataan Antropik: AI Menolak Untuk Mengubah Pendapat Mereka, Sama Seperti Kita
Teknologi
3 bulan lalu
152 dibaca
Orang-orang yang bermain-main dengan AI pendeteksi emosi dengan berpura-pura menunjukkan reaksi emosional dapat menyebabkan kebiasaan emosional masyarakat yang luas dan histeria.
Teknologi
4 bulan lalu
161 dibaca
‘Ekonomi Niat’ Dapat Menjual Keputusan Anda - Sebelum Anda Membuatnya
Teknologi
4 bulan lalu
142 dibaca
AI dapat berbohong secara strategis: Dari kesalahan yang tidak disengaja hingga kebohongan, manipulasi, dan penipuan.
Teknologi
4 bulan lalu
35 dibaca
Apa yang harus kita lakukan jika AI menjadi sadar? Para ilmuwan ini mengatakan sudah saatnya untuk memiliki rencana.
Teknologi
5 bulan lalu
53 dibaca