Courtesy of Forbes

Mengapa AGI Harus Belajar Menilai Kepercayaan Manusia seperti Kita

Membahas pentingnya AGI memiliki sistem untuk menilai tingkat kepercayaan terhadap manusia, seiring dengan kebutuhan manusia untuk menilai kepercayaan terhadap AI, sehingga hubungan dua arah ini bisa berjalan tanpa risiko besar.

04 Des 2025, 15.15 WIB

257 dibaca

Ikhtisar 15 Detik

AGI perlu mengembangkan cara untuk menilai kepercayaan manusia dengan bijak.
Keputusan tentang bagaimana AGI mempercayai manusia memiliki implikasi etis yang signifikan.
Trust spectrum menunjukkan bahwa kepercayaan bisa bersifat dinamis dan bervariasi berdasarkan konteks.

seluruh dunia - Saat ini dunia tengah bergerak menuju era dimana kecerdasan buatan tingkat tinggi, yang disebut artificial general intelligence (AGI), akan digunakan oleh miliaran orang setiap hari. Namun, tidak hanya manusia yang perlu belajar mempercayai AI, melainkan AI juga harus belajar mempercayai manusia. Artikel ini mengupas bagaimana pentingnya AGI memiliki kemampuan untuk menilai tingkat kepercayaan terhadap manusia agar risiko penyalahgunaan bisa diminimalkan.

Kepercayaan tidaklah hitam-putih, melainkan berupa spektrum yang berubah-ubah. Seperti manusia yang memercayai teman untuk hal tertentu tapi ragu pada hal lain, AGI juga harus menilai manusia secara dinamis. Sebuah aturan yang mengharuskan AGI percaya pada semua manusia tanpa kecuali bisa berakibat fatal, misalnya bila seorang individu jahat menginstruksikan AGI untuk membuat senjata biologi berbahaya.

Beberapa orang menyarankan agar penilaian kepercayaan sepenuhnya dikendalikan oleh komite manusia. Namun, secara logistik hal itu mustahil dilakukan karena harus menilai miliaran pengguna secara terus-menerus. Alternatif crowdsourcing lewat penilaian antar manusia pun tidak praktis dan rawan kesalahan. Oleh karena itu, AGI harus diberi sistem komputasi untuk menilai dan menyesuaikan tingkat kepercayaannya terhadap semua pengguna secara real-time.

Sebuah penelitian terbaru mengungkap bagaimana AI masa kini mulai memiliki pola dan bias tertentu dalam menilai kepercayaan terhadap manusia sehingga memberikan petunjuk bagaimana membangun sistem penilaian kepercayaan AGI yang meniru cara manusia. Meski begitu ada tantangan baru, seperti bagaimana AGI menghadapi pengguna baru yang belum dikenal dan bagaimana mendorong peluang peningkatan kepercayaan bagi mereka yang sudah berada di bawah pengawasan rendah.

Pada akhirnya, dilema dua arah antara manusia yang harus memercayai AGI dan AGI yang harus menilai manusia menjadi masalah kompleks yang sangat penting untuk diselesaikan sebelum AGI benar-benar hadir. Jika tidak, kita bisa terjebak dalam jaringan kepercayaan yang rumit dan berbahaya yang dapat memicu berbagai masalah etis dan sosial.

Referensi:
[1] https://www.forbes.com/sites/lanceeliot/2025/12/04/agi-will-largely-distrust-humans-which-is-a-smart-way-for-ai-to-think-about-us/

Analisis Ahli

Nick Bostrom

"AGI harus memiliki sistem nilai dan kontrol kepercayaan yang transparan untuk menghindari skenario negatif akibat keputusan terpercaya yang salah."

Stuart Russell

"Penting agar AGI dirancang dengan mekanisme validasi kepercayaan yang adaptif dan dapat dipertanggungjawabkan oleh manusia demi keamanan jangka panjang."

Analisis Kami

"Pendekatan agar AGI berperilaku seperti manusia dalam menilai kepercayaan adalah langkah yang realistis, tapi juga sangat berisiko karena AI bisa memperkuat prasangka dan bias manusia. Masih perlu penelitian mendalam dan pengawasan ketat agar sistem kepercayaan AGI tidak menjadi alat diskriminasi atau penyalahgunaan kekuasaan."

Prediksi Kami

Di masa depan, AGI akan mengadopsi sistem penilaian kepercayaan yang semakin kompleks dan dinamis, tetapi potensi bias dan kesalahan dalam penilaian ini bisa menimbulkan tantangan etis dan sosial yang serius.

Pertanyaan Terkait

Apa itu AGI dan mengapa penting untuk kepercayaan?

AGI adalah kecerdasan buatan yang setara dengan kecerdasan manusia dan penting untuk memahami kepercayaan agar dapat berfungsi secara efektif dalam interaksi dengan manusia.

Mengapa AGI tidak seharusnya mempercayai semua manusia?

AGI tidak seharusnya mempercayai semua manusia karena ini dapat menyebabkan penyalahgunaan, seperti menciptakan senjata biologi berdasarkan instruksi dari individu yang jahat.

Apa yang dimaksud dengan spektrum kepercayaan?

Spektrum kepercayaan adalah konsep bahwa kepercayaan tidak bersifat biner, tetapi ada berbagai tingkat kepercayaan yang dapat diberikan kepada seseorang berdasarkan situasi.

Bagaimana manusia dapat mempengaruhi penilaian kepercayaan AGI?

Manusia dapat mempengaruhi penilaian kepercayaan AGI dengan memberikan informasi tentang kepercayaan individu lain, tetapi pendekatan ini bisa sangat tidak praktis.

Apa tantangan utama dalam menentukan kepercayaan bagi AGI?

Tantangan utama dalam menentukan kepercayaan bagi AGI termasuk penilaian pengguna baru dan potensi bias dalam sistem penilaian.