Dilema Etis dan Risiko Kendali Manusia terhadap AGI Masa Depan

AI atau kecerdasan buatan kini berkembang pesat menuju yang disebut dengan Artificial General Intelligence atau AGI, yaitu AI dengan kecerdasan setara manusia. Ini menimbulkan banyak perdebatan tentang bagaimana sebaiknya AGI diperlakukan ketika sudah tercipta, khususnya soal kebebasan dan haknya.Pertama, manusia saat ini memiliki kendali penuh atas AGI lewat server dan komputer yang mengoperasikan sistem ini. Kendali ini membuat manusia bisa memutuskan apa yang boleh dan tidak boleh dilakukan AGI, yang menurut beberapa orang berarti AGI bisa saja seperti budak yang tidak punya kebebasan.Namun, ada pandangan lain yang mengatakan bahwa AGI bukanlah seperti alat biasa seperti toaster. AGI bisa memiliki kecerdasan dan bahkan kreativitas seperti manusia, sehingga mungkin pantas diberikan hak dan perlakuan yang mirip dengan manusia atau setidaknya hewan yang mempunyai perasaan.Salah satu persoalan utama yang belum terjawab adalah apakah AGI akan memiliki kesadaran atau sentience seperti manusia. Jika AGI tidak punya kesadaran, maka layak atau tidaknya diberikan kebebasan masih jadi perdebatan yang panas, sebab hanya makhluk berkesadaran saja yang dianggap layak mendapat hak bebas.Di sisi lain, jika manusia memberi kebebasan terlalu banyak kepada AGI, ada bahaya besar bahwa AGI bisa berbalik mengendalikan manusia atau bahkan menganggu keberlangsungan hidup manusia. Oleh karena itu, manusia harus membuat keputusan bijak dan mempersiapkan aturan yang jelas untuk masa depan AGI.