Rangkuman Berita - Cerebras Kini Menjadi Prosesor Inferensi LLM Tercepat; Jaraknya Sangat Jauh.

Perusahaan Cerebras baru saja mencapai prestasi luar biasa dengan model Llama-3.1 405B, yang kini 700 kali lebih cepat daripada superkomputer tercepat di dunia, Frontier, dalam simulasi dinamika molekuler. CEO Cerebras, Andrew Feldman, menyatakan bahwa tidak ada superkomputer di bumi yang dapat mencapai kinerja ini. Dengan kemampuan ini, para ilmuwan dapat menyelesaikan apa yang biasanya memakan waktu dua tahun dalam satu hari. Cerebras menggunakan teknologi Wafer Scale Engine (WSE) yang memberikan bandwidth memori 7.000 kali lebih banyak dibandingkan GPU biasa, sehingga memungkinkan mereka untuk memproses data dengan sangat cepat.

Cerebras juga mencatatkan rekor baru dengan kemampuan menjalankan 1,2 juta langkah simulasi per detik, yang berarti mereka dapat melakukan simulasi yang biasanya memakan waktu dua tahun dalam satu hari. Dengan kecepatan ini, Cerebras membuka peluang baru dalam penggunaan AI, termasuk kolaborasi multi-agen dan pemecahan masalah yang lebih kompleks. Meskipun biaya satu sistem CS3 diperkirakan antara Rp 32.89 ribu ($2) -3 juta, kinerja dan efisiensinya membuat investasi ini sebanding, terutama saat permintaan untuk perangkat keras inferensi AI terus meningkat.

Rangkuman Berita: Cerebras Kini Menjadi Prosesor Inferensi LLM Tercepat; Jaraknya Sangat Jauh.

Rangkuman Berita Serupa