TLDR
Maia 200 adalah chip inovatif dari Microsoft yang dirancang untuk meningkatkan efisiensi dalam inferensi AI. Chip ini memiliki lebih dari 100 miliar transistor dan menawarkan kinerja yang lebih baik dibandingkan pendahulunya, Maia 100. Microsoft berusaha untuk mengurangi ketergantungan pada NVIDIA dengan mengembangkan chipnya sendiri. Microsoft baru saja meluncurkan chip terbarunya yang diberi nama Maia 200, yang dirancang khusus untuk mempercepat dan meningkatkan efisiensi proses inferensi AI. Chip ini memiliki lebih dari 100 miliar transistor dan mampu memberikan performa hingga 10 petaflops pada presisi 4-bit, yang merupakan peningkatan besar dibandingkan generasi sebelumnya, Maia 100.Inferensi adalah proses di mana model AI dijalankan untuk melakukan tugas tertentu, berbeda dengan proses pelatihan yang biasanya memakan sumber daya lebih besar. Dengan semakin tinggi penggunaan model AI, biaya inferensi menjadi semakin penting untuk dikendalikan, sehingga pengoptimalan dalam tahap ini sangat diperlukan oleh perusahaan AI.Selain performanya yang mengesankan, Maia 200 juga dirancang untuk lebih hemat energi dan mampu menjalankan model AI besar dengan mudah tanpa gangguan operasional. Microsoft menyatakan bahwa satu node Maia 200 cukup untuk menangani model AI terbesar saat ini dan masih memiliki kapasitas untuk model yang lebih besar di masa depan.Peluncuran chip ini juga menunjukkan tren besar di industri teknologi, di mana perusahaan besar seperti Microsoft, Google, dan Amazon mulai mengembangkan chip AI mereka sendiri untuk mengurangi ketergantungan pada chip NVIDIA yang selama ini mendominasi pasar GPU untuk AI. Google dengan TPU-nya dan Amazon dengan Trainium adalah contoh lainnya.Saat ini, Maia 200 telah digunakan oleh tim Superintelligence Microsoft dan chatbot Copilot, serta sudah tersedia SDK-nya untuk digunakan oleh pengembang, akademisi, dan laboratorium AI terkemuka. Ini menandakan kesiapan teknologi ini untuk diadopsi secara luas dan berkontribusi dalam perkembangan AI global.
