California Dorong Regulasi AI Berani Hadapi Risiko Besar Lewat SB 53

California sedang mempertimbangkan RUU SB 53 yang mengatur pengembang AI besar untuk melaporkan keselamatan dan transparansi model AI mereka, bertujuan mencegah risiko besar seperti kematian massal atau kerusakan ekonomi lebih dari satu miliar dolar. RUU ini mendapat dukungan dari Anthropic dan beberapa ahli, meskipun mendapat tentangan dari kelompok teknologi besar. RUU ini berniat mengatur penggunaan AI untuk mencegah penciptaan senjata biologis dan serangan siber tingkat tinggi yang bisa menyebabkan kerusakan besar secara global. RUU juga memberikan perlindungan kepada pegawai yang melaporkan masalah keselamatan di perusahaan AI, serta menetapkan kerangka kerja keselamatan agar AI dikembangkan dengan aman. Beberapa kelompok seperti CTA dan Chamber for Progress menolak RUU ini, menganggap regulasi AI semestinya dilakukan di tingkat federal agar tidak membatasi inovasi dan melanggar aturan antarnegara bagian. Namun, Anthropic dan pendukung lain menilai regulasi harus segera dan tidak bisa menunggu keputusan di Washington. California telah menghapus bagian RUU yang mewajibkan audit pihak ketiga, sebagai kompromi agar aturan tidak terlalu memberatkan perusahaan. Mayoritas perusahaan AI besar sudah memiliki kebijakan keselamatan internal dan laporan publik, namun RUU akan menjadikan standar ini wajib secara hukum dengan sanksi keuangan jika dilanggar. Pengesahan SB 53 akan jadi tonggak penting bagi regulasi AI dengan memberikan contoh bagi pemerintah lain. RUU ini dianggap sebagai pendekatan yang lebih masuk akal dan realistis dibanding RUU AI sebelumnya yang lebih ketat, dengan peluang besar untuk menjadi undang-undang di California.