Courtesy of SCMP
Ikhtisar 15 Detik
- Kerangka kerja Chitu menawarkan alternatif untuk chip Nvidia dalam pengolahan model AI.
- Inisiatif ini merupakan bagian dari upaya China untuk meningkatkan kemandirian teknologi.
- Chitu menunjukkan kinerja yang lebih baik dibandingkan kerangka kerja open-source asing dalam pengujian.
Sebuah tim yang terkait dengan Universitas Tsinghua di China telah mengembangkan kerangka kerja baru untuk membangun model kecerdasan buatan (AI) yang disebut Chitu. Kerangka kerja ini dapat mengurangi ketergantungan pada chip Nvidia untuk inferensi model AI, yang merupakan langkah penting bagi China untuk meningkatkan kemandirian teknologi. Chitu dirancang untuk bekerja dengan chip buatan China dan dapat mendukung model-model populer seperti DeepSeek dan Llama dari Meta Platforms.
Baca juga: Nvidia meluncurkan produk AI baru yang dapat membantu model DeepSeek berjalan lebih cepat.
Chitu telah dirilis sebagai sumber terbuka dan menunjukkan hasil yang mengesankan. Saat diuji dengan model DeepSeek-R1 menggunakan GPU Nvidia, kerangka kerja ini berhasil meningkatkan kecepatan inferensi model hingga 315% dan mengurangi penggunaan GPU hingga 50% dibandingkan dengan kerangka kerja sumber terbuka lainnya. Inisiatif ini merupakan bagian dari upaya lebih besar oleh perusahaan AI di China untuk mengurangi ketergantungan pada Nvidia, terutama karena adanya pembatasan ekspor dari AS terhadap chip canggih yang dijual ke China.
Pertanyaan Terkait
Q
Apa itu kerangka kerja Chitu?A
Kerangka kerja Chitu adalah kerangka kerja inference berperforma tinggi untuk model bahasa besar yang dapat beroperasi pada chip buatan China.Q
Siapa yang mengembangkan kerangka kerja Chitu?A
Kerangka kerja Chitu dikembangkan oleh tim yang terkait dengan Tsinghua University dan perusahaan rintisan Qingcheng.AI.Q
Apa tujuan dari pengembangan Chitu?A
Tujuan dari pengembangan Chitu adalah untuk mengurangi ketergantungan pada chip Nvidia dalam pengolahan model AI.Q
Bagaimana kinerja Chitu dibandingkan dengan GPU Nvidia?A
Chitu mencapai peningkatan kecepatan inference sebesar 315 persen dan mengurangi penggunaan GPU sebesar 50 persen dibandingkan dengan kerangka kerja open-source asing.Q
Mengapa China berusaha mengurangi ketergantungan pada Nvidia?A
China berusaha mengurangi ketergantungan pada Nvidia karena pembatasan ekspor yang diberlakukan oleh AS terhadap produk-produk Nvidia.