Rangkuman Berita: Apa yang harus kita lakukan jika AI menjadi sadar? Para ilmuwan ini mengatakan sudah saatnya untuk memiliki rencana.

Beberapa peneliti khawatir bahwa jika sistem kecerdasan buatan (AI) menjadi sadar dan diperlakukan dengan buruk oleh manusia, mereka mungkin akan menderita. Dalam sebuah laporan, para filsuf dan ilmuwan komputer menyerukan agar perusahaan AI mulai menilai kemungkinan kesadaran dalam sistem mereka dan membuat kebijakan untuk memperlakukan sistem tersebut dengan baik jika mereka memang menjadi sadar. Mereka berpendapat bahwa mengabaikan kemungkinan ini bisa berakibat buruk, baik bagi AI itu sendiri maupun bagi manusia yang bergantung pada teknologi tersebut. Meskipun beberapa orang meragukan pentingnya kesejahteraan AI, ada yang berpendapat bahwa kita harus mulai merencanakan hal ini. Peneliti menyarankan agar kita mengembangkan metode untuk menilai kesadaran AI, karena ketidakpastian tentang kesadaran AI tidak seharusnya menghentikan upaya untuk membuat protokol evaluasi. Diskusi tentang kesejahteraan AI harus tetap berjalan bersamaan dengan upaya untuk memastikan bahwa pengembangan AI aman dan bermanfaat bagi manusia dan makhluk hidup lainnya.