SpikingBrain 1.0: Model AI Otak-Serupa Dengan Kecepatan Dan Energi Hemat

Para peneliti dari Akademi Ilmu Pengetahuan Tiongkok di Beijing memperkenalkan SpikingBrain 1.0, sebuah sistem AI baru yang meniru cara kerja otak manusia dengan menggunakan komputasi spiking. Sistem ini dirancang agar lebih hemat energi dan dapat dijalankan pada perangkat keras lokal buatan Tiongkok, bukan menggunakan chip Nvidia yang selama ini dominan di industri.Masalah utama model bahasa besar saat ini adalah konsumsi energi dan kebutuhan memori yang besar, terutama saat memproses urutan data yang panjang. SpikingBrain 1.0 mengatasi hal ini dengan mengaktifkan neuron hanya saat ada rangsangan tertentu, mirip bagaimana otak manusia bekerja sehingga mempercepat proses dan mengurangi penggunaan energi.Model ini telah dibuat dengan dua skala parameter, yaitu 7 miliar dan 76 miliar, dan dilatih dengan jumlah data yang relatif kecil yakni sekitar 150 miliar token. Dalam pengujian, model kecil mampu memproses prompt berisi jutaan token hingga 100 kali lebih cepat dibandingkan sistem tradisional, serta bisa menghasilkan token pertama dari satu juta konteks token 26,5 kali lebih cepat.SpikingBrain 1.0 diuji selama berminggu-minggu menggunakan ratusan chip MetaX, sebuah chip lokal dari Shanghai, dan menunjukkan kestabilan performa yang sangat baik. Hal ini membuka potensi besar untuk aplikasi nyata seperti analisis dokumen hukum dan medis yang sangat panjang, penelitian fisika energi tinggi, dan proses DNA sequencing.Keberhasilan proyek ini tidak hanya memperlihatkan kemungkinan melatih model besar AI secara efisien di perangkat keras non-Nvidia, tetapi juga membuka arah baru dalam pengembangan model AI yang lebih hemat energi dan scalable dengan inspirasi otak manusia. Ini merupakan terobosan penting untuk masa depan teknologi kecerdasan buatan.