Groq Tantang Dominasi Nvidia dengan Chip AI Baru untuk Inferensi

Dalam beberapa tahun terakhir, perusahaan teknologi besar fokus membangun infrastruktur AI dengan banyak dana yang dihabiskan untuk membeli GPU dari Nvidia dan AMD, yang digunakan terutama untuk melatih model AI generatif. Namun, permintaan chip untuk tahap inferensi -- yaitu menjalankan model AI dalam aplikasi nyata -- mulai meningkat, membuka peluang bagi startup seperti Groq yang mengembangkan chip LPUs yang dirancang khusus untuk kebutuhan ini. Groq baru saja mengumpulkan dana sebesar 750 juta dolar dengan valuasi hampir 7 miliar dolar dari investor besar seperti Samsung, Cisco, dan BlackRock, menandai momentum penting bagi perusahaan ini dalam industri chip AI. Dominasi Nvidia yang menguasai 90% pasar chip akselerator AI berbasis GPU masih kuat, terutama karena kekuatan arsitektur dan ekosistem perangkat lunaknya, tapi Groq menawarkan alternatif dengan chip inferensi yang lebih cepat dan efisien. Persaingan di pasar chip AI semakin ketat, dengan Groq membuka peluang bagi AMD untuk mendapatkan posisi sebagai pelengkap, sementara Nvidia harus terus berinovasi untuk mempertahankan posisinya yang dominan.