TLDR
Clarifai meluncurkan mesin penalaran baru yang meningkatkan efisiensi AI. Optimisasi perangkat lunak dapat mengurangi kebutuhan akan pusat data besar. Permintaan untuk infrastruktur AI terus meningkat seiring dengan perkembangan model yang lebih kompleks. Clarifai, sebuah platform AI, baru-baru ini meluncurkan mesin penalaran baru yang menjanjikan dua kali lebih cepat dalam menjalankan model AI dan menghemat biaya hingga 40 persen. Mesin ini didesain agar bisa digunakan dengan berbagai model dan layanan cloud, sehingga lebih fleksibel untuk banyak kebutuhan.Teknologi baru ini menggunakan berbagai jenis optimasi, mulai dari pengaturan kernel CUDA di tingkat rendah hingga teknik decoding canggih yang disebut speculative decoding. CEO Clarifai, Matthew Zeiler, mengatakan bahwa teknologi ini bisa membuat perangkat keras yang sama bekerja lebih efisien tanpa harus mengganti kartu GPU.Hasil dari teknologi ini sudah diuji oleh perusahaan independen bernama Artificial Analysis yang membuktikan mesin Clarifai mencetak rekor terbaik di industri, baik dalam kecepatan pengolahan maupun waktu respons yang singkat.Fokus utama dari teknologi ini adalah proses inferensi, yaitu ketika model AI yang sudah dilatih menjalankan tugasnya. Dengan berkembangnya model multi-langkah yang semakin kompleks, permintaan komputasi saat inferensi naik drastis, sehingga butuh solusi yang lebih efisien seperti yang ditawarkan Clarifai.Seiring dengan tekanan besar di bidang infrastruktur AI dan rencana jutaan dolar dalam pembangunan pusat data oleh perusahaan seperti OpenAI, mesin penalaran Clarifai menjadi contoh nyata bagaimana software dapat membantu mengurangi kebutuhan hardware. CEO Clarifai percaya inovasi algoritma dan software akan terus berkembang untuk mengatasi kebutuhan energi dan biaya yang besar.
