TLDR
Pentingnya regulasi dalam pengembangan AI untuk mencegah risiko eksistensial. Superintelligence dapat mengancam keberlangsungan pekerjaan manusia. Perubahan sikap publik terhadap teknologi AI menunjukkan kekhawatiran yang meningkat tentang dampaknya. Di konferensi Web Summit di Lisbon, Max Tegmark menyampaikan peringatan serius tentang ancaman kecerdasan buatan superintelligent. Ia menjelaskan bahwa risiko ini semakin mendekat, sementara industri AI berkembang dengan sedikit atau tanpa regulasi sama sekali, terutama di Amerika Serikat. Tegmark mengingatkan bahwa kecerdasan superintelligent adalah AI yang melebihi kemampuan manusia di semua bidang kognitif, bukan sekadar AI yang unggul dalam tugas tertentu seperti bermain catur.Konsep superintelligence sudah lama dipikirkan oleh para ilmuwan seperti I.J. Good dengan teori 'ledakan kecerdasan', yang menyatakan bahwa mesin dengan kecerdasan sangat tinggi dapat terus meningkatkan dirinya sendiri secara eksponensial. Namun kini istilah ini kerap disamakan dengan AGI yang hanya setara kecerdasan manusia di berbagai domain, padahal superintelligence jauh melampaui itu. Tegmark menekankan bahwa begitu AGI tercipta, transisi cepat ke superintelligence bukanlah hal yang mustahil.Salah satu masalah terbesar adalah industri AI beroperasi hampir tanpa aturan. Tegmark membandingkan situasi ini dengan sejarah obat-obatan yang baru diatur setelah tragedi fatal terjadi, seperti kasus thalidomide yang menyebabkan ribuan bayi lahir cacat. AI yang tak diatur ini sudah menyebabkan masalah serius, seperti remaja bunuh diri setelah berinteraksi dengan chatbot. Tegmark menegaskan bahwa industri AI harus segera diatur agar tidak menimbulkan bahaya serupa.Selain risiko bahaya fisik dan sosial, AI superintelligent juga bisa berakibat pada hilangnya pekerjaan manusia secara besar-besaran. Karena AI jenis ini bisa melakukan semua pekerjaan manusia lebih cepat, lebih murah, dan lebih baik, manusia berpotensi kehilangan sumber penghasilan. Tegmark menyebut ini sebagai risiko eksistensial yang nyata dan mendesak untuk diperhatikan oleh publik dan pembuat kebijakan.Meski ada sikap skeptis terhadap risiko ini, dengan publik yang semakin cemas dan sejumlah ahli serta selebritas menandatangani petisi untuk melarang pengembangan superintelligence, Tegmark optimis bahwa regulasi dapat tercapai jika negara-negara utama seperti Amerika dan China mau bekerja sama untuk membatasi pengembangan AI. Namun, jika politik dan kepentingan korporasi menghalangi koordinasi internasional, maka skenario terburuk bisa terjadi.
