Courtesy of TechCrunch
CEO Nvidia, Jensen Huang, mengklaim bahwa kinerja chip AI perusahaan mereka berkembang lebih cepat daripada yang diprediksi oleh Hukum Moore, yang menyatakan bahwa jumlah transistor pada chip komputer akan berlipat ganda setiap tahun. Huang menjelaskan bahwa chip terbaru mereka, GB200 NVL72, lebih dari 30 kali lebih cepat dalam menjalankan tugas AI dibandingkan dengan generasi sebelumnya. Dia percaya bahwa dengan mengembangkan arsitektur, chip, sistem, dan algoritma secara bersamaan, mereka dapat berinovasi lebih cepat daripada yang diperkirakan oleh Hukum Moore.
Huang juga menolak anggapan bahwa kemajuan AI sedang melambat. Dia menyebutkan adanya tiga hukum skala AI yang aktif, yaitu pre-training, post-training, dan test-time compute. Dengan peningkatan kemampuan komputasi, Huang yakin bahwa biaya untuk menjalankan model AI akan menurun seiring waktu. Dia menegaskan bahwa chip AI mereka saat ini 1.000 kali lebih baik dibandingkan sepuluh tahun lalu, dan dia tidak melihat tanda-tanda bahwa kemajuan ini akan berhenti dalam waktu dekat.
Pertanyaan Terkait
Q
Apa yang dikatakan Jensen Huang tentang kecepatan kemajuan chip AI Nvidia?A
Jensen Huang menyatakan bahwa kemajuan chip AI Nvidia lebih cepat daripada yang diprediksi oleh Moore's Law.Q
Apa itu Moore's Law dan bagaimana hubungannya dengan chip Nvidia?A
Moore's Law adalah prinsip yang menyatakan bahwa jumlah transistor pada chip komputer berlipat ganda setiap tahun, dan Nvidia mengklaim chip mereka melampaui kecepatan ini.Q
Mengapa Nvidia menjadi pilihan utama untuk pelatihan model AI?A
Nvidia menjadi pilihan utama karena chip H100 mereka sangat efektif untuk melatih model AI.Q
Apa yang dimaksud dengan 'test-time compute' dalam konteks AI?A
'Test-time compute' adalah fase di mana model AI memerlukan waktu lebih untuk memproses pertanyaan setelah pelatihan.Q
Bagaimana Nvidia berencana untuk menurunkan biaya inferensi AI?A
Nvidia berencana untuk meningkatkan kemampuan komputasi untuk menurunkan biaya inferensi AI di masa depan.