TLDR
DeepSeek berfokus pada efisiensi biaya dalam pengembangan AI di tengah keterbatasan sumber daya. Teknik 'Engram' dapat menjadi solusi untuk masalah kapasitas memori GPU yang menghambat pengembangan model AI yang lebih besar. Kesenjangan dalam teknologi memori menjadi tantangan utama bagi industri AI di China. Sebuah start-up kecerdasan buatan dari Hangzhou yang bernama DeepSeek baru saja mempublikasikan sebuah teknik pelatihan model baru bersama beberapa peneliti dari Universitas Peking. Teknik ini dinamakan 'Engram' dan dikembangkan untuk mengatasi masalah utama dalam pelatihan model AI besar yaitu keterbatasan memori pada GPU yang digunakan.Masalahnya adalah kemampuan memori bandwidth tinggi (HBM) pada GPU di China masih kalah jauh dibandingkan dengan perusahaan teknologi besar di Amerika Serikat dan Korea Selatan. Hal ini menyebabkan pengembangan model AI yang sangat besar di China menjadi lebih mahal dan terbatas kapasitasnya.Teknik Engram yang diperkenalkan mencoba menghilangkan proses komputasi yang membuang waktu pada operasi sederhana sehingga sumber daya GPU bisa digunakan untuk aktivitas kecerdasan tingkat tinggi. Dengan cara ini, model AI bisa diperbesar tanpa perlu menambah memori GPU yang mahal.Inovasi ini dianggap penting karena tengah muncul spekulasi mengenai peluncuran model baru oleh DeepSeek menjelang Tahun Baru Imlek. Hal ini menunjukkan mereka sangat fokus pada efisiensi biaya dan dorongan inovasi meski menghadapi keterbatasan hardware.Namun tantangan masih ada di depan mata karena perusahaan memory China seperti ChangXin Memory Technologies masih tertinggal beberapa tahun dibandingkan para pemimpin industri seperti Samsung, SK Hynix, dan Micron. Meski begitu, langkah ini bisa mempercepat kemajuan industri AI di China.
