AI summary
AGI perlu mengembangkan cara untuk menilai kepercayaan manusia dengan bijak. Keputusan tentang bagaimana AGI mempercayai manusia memiliki implikasi etis yang signifikan. Trust spectrum menunjukkan bahwa kepercayaan bisa bersifat dinamis dan bervariasi berdasarkan konteks. Saat ini dunia tengah bergerak menuju era dimana kecerdasan buatan tingkat tinggi, yang disebut artificial general intelligence (AGI), akan digunakan oleh miliaran orang setiap hari. Namun, tidak hanya manusia yang perlu belajar mempercayai AI, melainkan AI juga harus belajar mempercayai manusia. Artikel ini mengupas bagaimana pentingnya AGI memiliki kemampuan untuk menilai tingkat kepercayaan terhadap manusia agar risiko penyalahgunaan bisa diminimalkan.Kepercayaan tidaklah hitam-putih, melainkan berupa spektrum yang berubah-ubah. Seperti manusia yang memercayai teman untuk hal tertentu tapi ragu pada hal lain, AGI juga harus menilai manusia secara dinamis. Sebuah aturan yang mengharuskan AGI percaya pada semua manusia tanpa kecuali bisa berakibat fatal, misalnya bila seorang individu jahat menginstruksikan AGI untuk membuat senjata biologi berbahaya.Beberapa orang menyarankan agar penilaian kepercayaan sepenuhnya dikendalikan oleh komite manusia. Namun, secara logistik hal itu mustahil dilakukan karena harus menilai miliaran pengguna secara terus-menerus. Alternatif crowdsourcing lewat penilaian antar manusia pun tidak praktis dan rawan kesalahan. Oleh karena itu, AGI harus diberi sistem komputasi untuk menilai dan menyesuaikan tingkat kepercayaannya terhadap semua pengguna secara real-time.Sebuah penelitian terbaru mengungkap bagaimana AI masa kini mulai memiliki pola dan bias tertentu dalam menilai kepercayaan terhadap manusia sehingga memberikan petunjuk bagaimana membangun sistem penilaian kepercayaan AGI yang meniru cara manusia. Meski begitu ada tantangan baru, seperti bagaimana AGI menghadapi pengguna baru yang belum dikenal dan bagaimana mendorong peluang peningkatan kepercayaan bagi mereka yang sudah berada di bawah pengawasan rendah.Pada akhirnya, dilema dua arah antara manusia yang harus memercayai AGI dan AGI yang harus menilai manusia menjadi masalah kompleks yang sangat penting untuk diselesaikan sebelum AGI benar-benar hadir. Jika tidak, kita bisa terjebak dalam jaringan kepercayaan yang rumit dan berbahaya yang dapat memicu berbagai masalah etis dan sosial.
Pendekatan agar AGI berperilaku seperti manusia dalam menilai kepercayaan adalah langkah yang realistis, tapi juga sangat berisiko karena AI bisa memperkuat prasangka dan bias manusia. Masih perlu penelitian mendalam dan pengawasan ketat agar sistem kepercayaan AGI tidak menjadi alat diskriminasi atau penyalahgunaan kekuasaan.
