AI summary
Server NXT RNGD menawarkan efisiensi energi yang signifikan dibandingkan dengan sistem GPU tradisional. FuriosaAI berhasil menunjukkan kinerja superior dalam inferensi model bahasa besar melalui kolaborasi dengan LG AI Research dan OpenAI. Pengembangan SDK baru meningkatkan kompatibilitas dan fleksibilitas untuk berbagai kasus penggunaan di sektor industri. Permintaan daya listrik dari pusat data global terus meningkat pesat, terutama akibat kebutuhan pemrosesan kecerdasan buatan (AI) yang semakin besar. Goldman Sachs memperkirakan konsumsi daya akan naik hingga 50% pada 2027 dan 165% pada 2030. Hal ini membuat banyak perusahaan mencari solusi yang bisa menjalankan AI dengan biaya energi lebih rendah.FuriosaAI memperkenalkan server NXT RNGD yang mengonsumsi daya hanya 3 kilowatt, jauh lebih kecil dibandingkan server Nvidia DGX H100 yang membutuhkan lebih dari 10 kilowatt. Dengan begitu, dalam satu rak data center berdaya 15 kilowatt bisa menempatkan hingga lima server RNGD, meningkatkan efisiensi penggunaan ruang dan energi.Server ini menyediakan performa komputasi hingga 4 petaFLOPS dengan delapan kartu RNGD yang menggunakan arsitektur Tensor Contraction Processor, yang didesain khusus untuk pekerjaan inferensi AI, bukan hanya pemrosesan grafis biasa. Ini menjadikan server ini efisien dan berfokus untuk kebutuhan bisnis AI terkini.LG AI Research sudah mengadopsi RNGD untuk menjalankan model bahasa besar EXAONE dan melaporkan performa 2,25 kali lebih baik dibandingkan GPU yang ada, sambil tetap memenuhi batasan latensi dan throughput. Hal tersebut membuka peluang penggunaan RNGD menyebar ke berbagai sektor industri seperti elektronik, telekomunikasi, finansial, dan bioteknologi.Selain itu, FuriosaAI bekerja sama dengan OpenAI untuk menunjukan model gpt-oss-120b bisa dijalankan hanya dengan dua kartu RNGD. Mereka juga merilis pembaruan SDK baru yang memudahkan kompatibilitas dan integrasi ke berbagai model AI, sehingga perusahaan dapat menggunakan RNGD tanpa harus mengubah sistem yang ada secara besar-besaran.
Teknologi RNGD dari FuriosaAI menunjukkan lompatan signifikan dalam hal efisiensi energi dan performa khusus untuk inferensi AI, yang selama ini menjadi tantangan utama di pusat data modern. Jika pengadopsian teknologi ini semakin luas, dampaknya tidak hanya mengurangi biaya tapi juga menopang keberlanjutan lingkungan TI secara global.
