AI dan Demokrasi: Tantangan Besar Menghadapi Era Superinteligensi

Sejak pemilihan presiden AS pada November, tren meningkatnya techno-fasisme yang didorong oleh populisme dan kecerdasan buatan telah terlihat. Buku Nexus oleh Yuval Noah Harari menjelaskan potensi konsekuensi AI terhadap demokrasi dan totalitarianisme. Harari menekankan bahwa informasi tidak sama dengan kebenaran dan AI adalah agen, bukan hanya alat. AI dapat menciptakan ide-ide baru yang sepenuhnya tidak dapat dipahami oleh manusia, dan kita harus menghindari ekstrem dalam menyikapi revolusi AI. Untuk mengembangkan superintelligence dengan aman, kepercayaan antara manusia perlu diperkuat. Algoritma media sosial saat ini dirancang untuk memaksimalkan keterlibatan pengguna dengan menyebarkan informasi yang memicu kemarahan dan kebencian. AI dapat membantu kita menghadapi hyperobjects, tetapi kita harus memastikan AI dapat dipercaya.