TLDR
Dario Amodei menegaskan bahwa Anthropic tidak mendukung larangan terhadap model open-weight. Ada kekhawatiran bahwa pemerintah otoriter, terutama di Tiongkok, dapat menggunakan AI untuk keuntungan militer dan penindasan. Usulan untuk menciptakan organisasi pengujian keselamatan model AI yang bersifat global dapat membantu mengatasi risiko yang ditimbulkan oleh AI. Pomodo.id - Dario Amodei, pendiri dan CEO Anthropic, memberikan pernyataan tegas mengenai posisi perusahaannya terhadap larangan model AI open-weight. Dalam tanggapannya, Amodei menekankan bahwa Anthropic tidak pernah mendukung larangan yang diberlakukan oleh pemerintah AS terhadap model open-weight, termasuk model dari laboratorium AI di Cina. Ia mencatat bahwa larangan semacam itu bukanlah langkah yang berguna, dan menjelaskan bahwa model open-weight yang aman dapat berfungsi sebagai aset publik yang mendukung bisnis dan pengembangan teknologi.Beberapa perusahaan besar AI, termasuk Nvidia, Hugging Face, Meta, Microsoft, dan lainnya, baru-baru ini menandatangani sebuah surat terbuka yang meminta para pembuat kebijakan untuk tidak memberlakukan batasan yang terlalu ketat pada model AI open-weight. Surat tersebut muncul di tengah perdebatan mengenai klaim bahwa laboratorium AI di Cina meningkat kemampuannya dengan cara mencuri hak kekayaan intelektual dari perusahaan-perusahaan Amerika. Meskipun surat itu tidak menyebutkan Cina secara spesifik, konteksnya menunjukkan kekhawatiran akan pengembangan teknologi mereka melalui teknik distilasi, di mana model AI digerakkan untuk belajar dari model lain dengan cara yang mengimitasi fungsionalitasnya.Meskipun ada argumen bahwa model open-weight dapat menjadi ancaman karena aksesnya yang luas, Amodei berpendapat bahwa risiko tersebut tidak cukup untuk menjadikan larangan sebagai solusi. Dia menegaskan bahwa model open-weight yang tidak memiliki kemampuan berbahaya adalah keuntungan bagi publik karena biaya untuk menjalankannya sangat rendah, dan manfaatnya bagi pengembang serta penelitian tidak ternilai. Hal ini sejalan dengan pandangan Jensen Huang dari Nvidia, yang dalam pernyataannya menjelaskan bahwa model tertutup dan terbuka sama-sama memiliki peran penting dalam kemajuan teknologi.Sementara itu, tuduhan tentang pencurian kekayaan intelektual oleh laboratorium AI Cina dapat menimbulkan dampak besar dalam diskusi kebijakan. Namun, ada ketegangan yang muncul antara kebutuhan untuk melindungi kepentingan nasional dan mendorong inovasi di industri AI. Para penandatangan surat terbuka tersebut khawatir bahwa larangan total terhadap model-model tertentu dapat merusak daya saing teknologi AS di tingkat global. Hal ini menunjukkan adanya keraguan dalam kalangan industri mengenai apakah langkah-langkah yang diambil untuk mengatasi isu keamanan akan lebih berbahaya dibandingkan manfaat yang diharapkan.Ke depan, penting untuk memperhatikan bagaimana diskusi tentang larangan model open-weight terbuka ini akan berkembang. Jika kekhawatiran dapat ditangani tanpa pembatasan yang drastis, industri ini dapat terus berkembang dan berkontribusi pada inovasi teknologi. Di sisi lain, jika larangan diberlakukan, ini mungkin berpotensi menghentikan pengembangan inovasi yang dibutuhkan untuk memastikan Amerika tetap kompetitif dalam peta persaingan global teknologi AI. Inisiatif kolaboratif untuk membangun model open-weight yang aman mungkin menjadi kunci untuk menjaga pertumbuhan sambil mengatasi risiko yang ada.
Model open-weight merujuk pada struktur dari sistem kecerdasan buatan (AI) yang dapat diakses dan dimodifikasi oleh publik. Berbeda dengan model tertutup yang hanya dapat dioperasikan di lingkungan terkendali, model open-weight memungkinkan pengembang mendapatkan bobot model dan menjalankannya di perangkat keras mereka sendiri. Hal ini memungkinkan lebih banyak transparansi dan inovasi, meskipun ada kekhawatiran tentang penggunaannya dalam kegiatan yang tidak etis. Namun, hanya model yang memiliki kemampuan berbahaya yang perlu diregulasi dengan ketat, sedangkan yang tidak menggambarkan ancaman harus dianggap sebagai aset publik yang bermanfaat.
