AI summary
Sand AI meluncurkan model video-generasi yang canggih bernama Magi-1. Penyaringan konten sensitif di China sangat ketat dan dipengaruhi oleh regulasi pemerintah. Perbandingan antara startup AI di China menunjukkan perbedaan dalam kebijakan penyaringan konten politik. Sand AI, sebuah startup berbasis di China, baru saja merilis model AI video-generasi bernama Magi-1 yang mendapat pujian dari beberapa pengusaha ternama. Model ini diklaim mampu menghasilkan video berkualitas tinggi dan menangkap fisika lebih akurat dibandingkan model terbuka lainnya. Namun, model ini terlalu besar untuk dijalankan pada perangkat keras konsumen biasa dan membutuhkan antara empat hingga delapan GPU Nvidia H100.Platform Sand AI memerlukan gambar 'prompt' untuk memulai generasi video, namun tidak semua gambar diperbolehkan. TechCrunch menemukan bahwa Sand AI memblokir unggahan gambar yang sensitif secara politik seperti gambar Xi Jinping, Tiananmen Square, Tank Man, bendera Taiwan, dan lambang yang mendukung pembebasan Hong Kong. Penyaringan ini tampaknya dilakukan pada tingkat gambar, sehingga mengganti nama file gambar tidak dapat menghindari pemblokiran.Model AI di China harus mematuhi kontrol informasi yang ketat sesuai dengan undang-undang 2023 yang melarang model menghasilkan konten yang merusak persatuan negara dan harmoni sosial. Meskipun model AI di China sering memblokir pidato politik, mereka cenderung memiliki lebih sedikit filter untuk konten pornografi dibandingkan dengan model Amerika. Beberapa generator video yang dirilis oleh perusahaan China dilaporkan tidak memiliki pengaman dasar untuk mencegah orang menghasilkan ketelanjangan non-konsensual.
Sensor keras yang diterapkan Sand AI menunjukkan bahwa inovasi teknologi di China masih harus berjalan seiring dengan kepatuhan pada kontrol pemerintahan yang ketat, yang bisa membatasi potensi kreativitas dan kebebasan pengguna. Namun, diferensiasi dalam filter konten pornografi dibandingkan perusahaan Barat juga memperlihatkan pendekatan berbeda dalam regulasi konten yang belum selesai dibahas secara global.
