TLDR
Ada kekhawatiran serius tentang risiko AI yang dapat memperbaiki dirinya sendiri dan potensi bahayanya bagi umat manusia. Perusahaan AI seperti Anthropic dan OpenAI terlibat dalam perlombaan untuk mengembangkan sistem superintelligent tanpa rencana keselamatan yang jelas. Peningkatan tekanan untuk mengembangkan AI yang lebih canggih dapat mengabaikan keselamatan, yang memicu pengunduran diri para peneliti yang khawatir. Pomodo.id - Dalam beberapa waktu terakhir, ketakutan akan dampak negatif dari kecerdasan buatan (AI) semakin meningkat, terutama setelah pernyataan dari seorang peneliti senior di Anthropic. Dia menyebutkan bahwa ada kemungkinan lebih dari 10 persen bahwa AI dapat membunuh semua manusia pada akhir dekade ini. Pernyataan ini muncul hanya beberapa jam setelah Jacob Coxon, seorang peneliti yang juga bekerja di Anthropic, mengumumkan pengunduran dirinya dengan alasan khawatir akan perlombaan yang sembrono untuk mengembangkan sistem AI yang dapat meningkatkan dirinya sendiri tanpa pengawasan yang memadai.Coxon, yang sebelumnya bekerja di OpenAI sebelum bergabung dengan Anthropic, menekankan bahwa para pengembang AI yang aktif saat ini percaya bahwa upaya mereka dapat berakibat fatal. Dalam ungkapannya di media sosial, dia menyatakan, “Tidak ada aktivitas manusia saat ini yang lebih berbahaya daripada perlombaan perusahaan untuk menciptakan kecerdasan supermasyarakat yang dapat meningkatkan diri secara mandiri.” Hubinger, yang memimpin tim keselamatan AI di Anthropic, juga sepakat dengan kekhawatiran Coxon, dengan menambahkan bahwa proses ini berlangsung lebih cepat dari yang mereka perkirakan.Meskipun banyak suara yang memperingatkan tentang potensi bahaya dari AI yang dapat meningkatkan kemampuannya sendiri, ada argumen yang mengemukakan bahwa proses ini belum sepenuhnya terwujud. Oleh karena itu, banyak perusahaan tetap berfokus untuk mengejar pengembangan tanpa mempertimbangkan keselamatan jangka panjang. Beberapa insider industri menganggap bahwa sikap sembrono ini berpotensi menimbulkan resiko eksistensial bagi umat manusia, melawan pernyataan bahwa semua ini hanya hipotesis atau spekulasi belaka.Untuk para pemuda Indonesia, berita ini membawa implikasi yang signifikan. Sebagai calon profesional di bidang teknologi dan inovasi, pemahaman akan risiko-risiko ini penting untuk membentuk cara mereka berpikir tentang karier mereka ke depan. Dengan semakin banyaknya fokus pada teknologi AI dalam perkembangan industri, para profesional muda harus melakukan penyesuaian keterampilan dan kiat mereka untuk memastikan bahwa mereka terlibat dalam pengembangan yang bertanggung jawab. Banyak perusahaan di Indonesia juga mulai berinvestasi dalam AI, dan kemampuan untuk menyadari risiko sambil tetap memanfaatkan potensi AI menjadi keterampilan yang semakin dibutuhkan.
Keamanan AI adalah istilah yang mengacu pada upaya untuk memastikan pengembangan AI yang aman dan bertanggung jawab, demi melindungi nilai-nilai kemanusiaan dan mencegah risiko hancurnya peradaban. Banyak perusahaan, termasuk Anthropic dan OpenAI, sudah mulai berupaya aktif dalam menerapkan tindakan keamanan ini, meskipun peringatan mengenai bahaya dari AI yang bisa meningkatkan diri terus berlanjut. Satu kesalahpahaman umum adalah bahwa semua alat teknologi yang dikembangkan otomatis akan bermanfaat, padahal, tanpa regulasi dan pengawasan yang ketat, hasilnya bisa berbahaya.
Dari segi perekonomian global, dampak AI diharapkan dapat memicu pertumbuhan yang signifikan—seperti yang dilaporkan bahwa AI bisa menyumbang hingga 366 miliar dolar AS (3,5 triliun rupiah) per tahun jika infrastruktur dan keterampilan siap. Namun, tantangan ini juga berarti bahwa para pemuda harus tetap waspada dan kritis terhadap alat teknologi yang mulai mereka andalkan, serta terlibat dalam percakapan tentang regulasi dan etika di dalam pengembangan teknologi yang mereka gunakan. Ini mempersiapkan mereka untuk tidak hanya menjadi konsumen tetapi juga pembangun masa depan yang lebih aman.
