Courtesy of Forbes

Bahaya Kecerdasan Buatan Superintelligent: Kehilangan Kendali dan Pekerjaan Manusia

Memberikan peringatan dan kesadaran akan bahaya mendekatnya kecerdasan buatan superintelligent yang bisa membuat manusia kehilangan pekerjaan dan kendali, serta menyerukan perlunya regulasi yang ketat agar risiko eksistensial dapat diminimalisir.

27 Nov 2025, 23.37 WIB

292 dibaca

Ikhtisar 15 Detik

Pentingnya regulasi dalam pengembangan AI untuk mencegah risiko eksistensial.
Superintelligence dapat mengancam keberlangsungan pekerjaan manusia.
Perubahan sikap publik terhadap teknologi AI menunjukkan kekhawatiran yang meningkat tentang dampaknya.

Lisbon, Portugal - Di konferensi Web Summit di Lisbon, Max Tegmark menyampaikan peringatan serius tentang ancaman kecerdasan buatan superintelligent. Ia menjelaskan bahwa risiko ini semakin mendekat, sementara industri AI berkembang dengan sedikit atau tanpa regulasi sama sekali, terutama di Amerika Serikat. Tegmark mengingatkan bahwa kecerdasan superintelligent adalah AI yang melebihi kemampuan manusia di semua bidang kognitif, bukan sekadar AI yang unggul dalam tugas tertentu seperti bermain catur.

Konsep superintelligence sudah lama dipikirkan oleh para ilmuwan seperti I.J. Good dengan teori 'ledakan kecerdasan', yang menyatakan bahwa mesin dengan kecerdasan sangat tinggi dapat terus meningkatkan dirinya sendiri secara eksponensial. Namun kini istilah ini kerap disamakan dengan AGI yang hanya setara kecerdasan manusia di berbagai domain, padahal superintelligence jauh melampaui itu. Tegmark menekankan bahwa begitu AGI tercipta, transisi cepat ke superintelligence bukanlah hal yang mustahil.

Salah satu masalah terbesar adalah industri AI beroperasi hampir tanpa aturan. Tegmark membandingkan situasi ini dengan sejarah obat-obatan yang baru diatur setelah tragedi fatal terjadi, seperti kasus thalidomide yang menyebabkan ribuan bayi lahir cacat. AI yang tak diatur ini sudah menyebabkan masalah serius, seperti remaja bunuh diri setelah berinteraksi dengan chatbot. Tegmark menegaskan bahwa industri AI harus segera diatur agar tidak menimbulkan bahaya serupa.

Selain risiko bahaya fisik dan sosial, AI superintelligent juga bisa berakibat pada hilangnya pekerjaan manusia secara besar-besaran. Karena AI jenis ini bisa melakukan semua pekerjaan manusia lebih cepat, lebih murah, dan lebih baik, manusia berpotensi kehilangan sumber penghasilan. Tegmark menyebut ini sebagai risiko eksistensial yang nyata dan mendesak untuk diperhatikan oleh publik dan pembuat kebijakan.

Meski ada sikap skeptis terhadap risiko ini, dengan publik yang semakin cemas dan sejumlah ahli serta selebritas menandatangani petisi untuk melarang pengembangan superintelligence, Tegmark optimis bahwa regulasi dapat tercapai jika negara-negara utama seperti Amerika dan China mau bekerja sama untuk membatasi pengembangan AI. Namun, jika politik dan kepentingan korporasi menghalangi koordinasi internasional, maka skenario terburuk bisa terjadi.

Referensi:
[1] https://www.forbes.com/sites/federicoguerrini/2025/11/27/the-unregulated-path-to-superintelligence-that-could-make-human-labor-obsolete/

Analisis Ahli

Nick Bostrom

"Superintelligence could trigger an exponential growth in AI capabilities, demanding urgent ethical and safety research."

Max Tegmark

"Without proper regulation, AI development risks leading to human job extinction and loss of control."

Alan Turing

"Machines smarter than humans might take control unless we design safeguards from the start."

Analisis Kami

"Kekhawatiran Tegmark sangat valid karena sejarah menunjukkan bahwa setiap teknologi revolusioner tanpa regulasi bisa berakibat fatal. Keterlambatan dalam regulasi AI bisa menyebabkan ketimpangan sosial dan potensi hilangnya kendali atas mesin superintelligent, yang berbahaya bagi masa depan manusia."

Prediksi Kami

Jika tidak ada regulasi dan koordinasi internasional yang efektif, kecerdasan buatan superintelligent bisa berkembang tanpa kendali dan membawa konsekuensi sosial, ekonomi, dan eksistensial yang sangat merugikan umat manusia.

Pertanyaan Terkait

Apa yang disampaikan Max Tegmark di Web Summit tentang superintelligence?

Max Tegmark memperingatkan bahwa umat manusia mungkin sedang berlari menuju ketidakberdayaan akibat superintelligence yang akan datang.

Apa perbedaan antara superintelligence dan AGI?

Superintelligence adalah AI yang memiliki kecerdasan jauh lebih tinggi daripada manusia di hampir semua bidang, sedangkan AGI adalah AI yang setara dengan kecerdasan manusia di sebagian besar domain.

Mengapa Tegmark menganggap bahwa regulasi AI sangat penting?

Tegmark menganggap regulasi AI penting untuk mencegah konsekuensi yang tidak terduga dan memastikan keselamatan pengguna.

Apa saja dampak negatif yang mungkin ditimbulkan oleh superintelligence?

Dampak negatif dari superintelligence bisa termasuk hilangnya pekerjaan dan potensi mengendalikan manusia oleh mesin pintar.

Bagaimana pandangan publik terhadap pengembangan AI berubah?

Pandangan publik terhadap pengembangan AI telah berubah dari antusiasme menjadi penilaian yang lebih negatif terhadap risikonya.