Courtesy of TechCrunch
Hugging Face, sebuah platform pengembangan AI, telah bekerja sama dengan penyedia cloud pihak ketiga seperti SambaNova untuk meluncurkan fitur baru bernama Inference Providers. Fitur ini memudahkan para pengembang untuk menjalankan model AI menggunakan infrastruktur yang mereka pilih. Dengan kemitraan ini, pengembang dapat dengan cepat menggunakan model AI seperti DeepSeek di server SambaNova hanya dengan beberapa klik. Hugging Face sebelumnya memiliki solusi sendiri untuk menjalankan model AI, tetapi kini fokusnya beralih ke kolaborasi dan distribusi model.
Dengan Inference Providers, pengembang dapat menerapkan dan mengelola model AI tanpa perlu mengatur perangkat keras yang mendasarinya. Penyedia seperti SambaNova akan secara otomatis menyediakan sumber daya komputasi yang diperlukan dan menyesuaikannya sesuai dengan penggunaan. Pengguna Hugging Face akan membayar tarif standar untuk layanan ini, dan mereka juga mendapatkan kredit untuk digunakan dalam inference. Hugging Face, yang didirikan pada tahun 2016, telah menjadi salah satu platform terbesar untuk hosting dan pengembangan model AI di dunia.
Pertanyaan Terkait
Q
Apa itu Hugging Face?A
Hugging Face adalah platform pengembangan dan hosting model AI yang telah menjadi salah satu yang terbesar di dunia.Q
Apa tujuan dari Inference Providers yang diluncurkan oleh Hugging Face?A
Tujuan dari Inference Providers adalah untuk memudahkan pengembang menjalankan model AI menggunakan infrastruktur pilihan mereka.Q
Siapa saja mitra yang terlibat dalam peluncuran Inference Providers?A
Mitra yang terlibat dalam peluncuran Inference Providers termasuk SambaNova, Fal, Replicate, dan Together AI.Q
Apa keuntungan dari serverless inference bagi pengembang?A
Keuntungan dari serverless inference adalah pengembang dapat menerapkan dan menskalakan model AI tanpa perlu mengonfigurasi atau mengelola perangkat keras yang mendasarinya.Q
Bagaimana cara Hugging Face mendukung pengembang dalam menggunakan penyedia cloud pihak ketiga?A
Hugging Face mendukung pengembang dengan memberikan akses ke penyedia cloud pihak ketiga dan memberikan kuota kredit untuk inference.