Sand AI Rilis Model Video AI Magi-1 dengan Sensor Konten Sensitif di China

Sand AI, sebuah startup berbasis di China, baru saja merilis model AI video-generasi bernama Magi-1 yang mendapat pujian dari beberapa pengusaha ternama. Model ini diklaim mampu menghasilkan video berkualitas tinggi dan menangkap fisika lebih akurat dibandingkan model terbuka lainnya. Namun, model ini terlalu besar untuk dijalankan pada perangkat keras konsumen biasa dan membutuhkan antara empat hingga delapan GPU Nvidia H100. Platform Sand AI memerlukan gambar 'prompt' untuk memulai generasi video, namun tidak semua gambar diperbolehkan. TechCrunch menemukan bahwa Sand AI memblokir unggahan gambar yang sensitif secara politik seperti gambar Xi Jinping, Tiananmen Square, Tank Man, bendera Taiwan, dan lambang yang mendukung pembebasan Hong Kong. Penyaringan ini tampaknya dilakukan pada tingkat gambar, sehingga mengganti nama file gambar tidak dapat menghindari pemblokiran. Model AI di China harus mematuhi kontrol informasi yang ketat sesuai dengan undang-undang 2023 yang melarang model menghasilkan konten yang merusak persatuan negara dan harmoni sosial. Meskipun model AI di China sering memblokir pidato politik, mereka cenderung memiliki lebih sedikit filter untuk konten pornografi dibandingkan dengan model Amerika. Beberapa generator video yang dirilis oleh perusahaan China dilaporkan tidak memiliki pengaman dasar untuk mencegah orang menghasilkan ketelanjangan non-konsensual.