TLDR
Google Cloud meluncurkan chip TPU generasi kedelapan yang terbagi untuk pelatihan dan inferensi. TPU baru menawarkan kinerja yang lebih baik dengan biaya yang lebih rendah dibandingkan generasi sebelumnya. Google masih berkolaborasi dengan Nvidia untuk meningkatkan efisiensi sistem berbasis Nvidia di cloud mereka. Google Cloud mengumumkan chip AI generasi kedelapan yang terbagi menjadi dua, TPU 8t untuk pelatihan model dan TPU 8i untuk inferensi. Chip ini menjanjikan performa pelatihan yang tiga kali lebih cepat serta efisiensi biaya hingga 80% lebih baik dibanding generasi sebelumnya. TPU baru ini juga memungkinkan pengoperasian lebih dari 1 juta chip dalam satu cluster komputasi besar.Google tetap menggunakan Nvidia sebagai bagian infrastruktur cloudnya dan akan menyediakan chip Nvidia terbaru Vera Rubin. Google dan Nvidia bahkan berkolaborasi untuk mengembangkan teknologi jaringan Falcon agar sistem Nvidia di cloud menjadi lebih efisien. Ini menunjukkan Google tidak berusaha menggantikan Nvidia secara langsung dalam waktu dekat.Keberadaan chip TPU generasi terbaru akan meningkatkan kapasitas dan efisiensi cloud Google dalam mendukung aplikasi AI. Namun, di masa depan para hyperscaler bisa jadi lebih independen dari Nvidia karena chip AI custom mereka sendiri semakin berkembang. Perkembangan ini bisa mengubah ekosistem chip AI dengan lebih banyak pilihan dan persaingan.
