TLDR
Kebijakan AI di California perlu menyeimbangkan inovasi dan pengurangan risiko. Evaluasi pihak ketiga sangat penting untuk mengidentifikasi dan mengelola risiko yang terkait dengan AI. Transparansi dalam pengembangan AI harus ditingkatkan untuk memastikan keamanan dan akuntabilitas. Setelah gubernur California memveto RUU yang mengatur pengujian bahaya AI besar, sebuah tim ahli dari universitas ternama di California merilis laporan baru. Laporan ini mengusulkan kerangka kerja yang lebih fleksibel dan transparan untuk mengatur pengembangan AI generatif agar tetap inovatif namun aman.Para ahli menyatakan bahwa kemampuan model AI berkembang sangat cepat, dan ada risiko serius terhadap senjata kimia, biologi, radiologi, dan nuklir. Karena itu, pengaturan hanya berdasarkan biaya pelatihan AI tidak cukup. Evaluasi risiko awal dan dampak nyata penggunaan AI di dunia penting dilakukan.Saat ini, sulit untuk mendapatkan transparansi dari perusahaan AI tentang data, pengujian, dan keamanan yang diterapkan. Laporan mengajak adanya perlindungan bagi whistleblower dan evaluasi independen oleh pihak ketiga yang mendapat akses memadai untuk menilai risiko AI secara objektif.Mereka juga membahas pentingnya kebijakan di tingkat negara bagian harus harmonis dan tidak kontradiktif agar tidak membingungkan industri. California diharapkan bisa memimpin pemberlakuan standar kebijakan yang disepakati bersama oleh berbagai negara bagian di Amerika Serikat.Meskipun perusahaan AI seperti OpenAI mencoba memfasilitasi pengujian, akses yang diberikan sering terbatas. Laporan ini mendesak perubahan kebijakan dan pengaturan agar pengujian independen dapat berjalan efektif, serta pelaporan dampak negatif AI dapat dilakukan dengan baik.
