Courtesy of Forbes

NVIDIA Perkenalkan ICMSP: Penyimpanan Memori Konteks AI Gigaskala

Memperkenalkan dan menjelaskan teknologi penyimpanan memori konteks inferensi AI NVIDIA ICMSP berbasis BlueField-4 DPU yang mampu menyimpan data konteks secara efisien dan dalam skala besar untuk meningkatkan performa dan personalisasi AI.

17 Jan 2026, 01.56 WIB

107 dibaca

Ikhtisar 15 Detik

ICMSP memungkinkan penyimpanan memori konteks yang lebih efisien untuk aplikasi AI.
NVIDIA berkolaborasi dengan berbagai perusahaan untuk menyediakan solusi penyimpanan yang canggih.
Permintaan untuk kapasitas memori dan penyimpanan akan meningkat secara signifikan di masa depan.

Las Vegas, Amerika Serikat - Pada acara CES 2026, NVIDIA mengumumkan teknologi baru bernama Inference Context Memory Storage Platform (ICMSP) yang menggunakan kartu jaringan cerdas BlueField-4. Teknologi ini dirancang untuk menyimpan memori konteks pemrosesan AI dalam skala besar agar interaksi AI menjadi lebih personal dan efisien.

Memori konteks adalah data yang dihasilkan selama interaksi AI dan berguna untuk membuat percakapan berikutnya lebih konsisten dan memahami pola kompleks. Dengan menyimpan konteks ini dalam storage khusus, beban perhitungan pada GPU bisa dikurangi dan konsumsi energi jadi lebih hemat.

ICMSP menyimpan data memori konteks dalam bentuk key-value cache dengan kapasitas hingga 16TB per GPU dan bisa diakses dengan kecepatan sangat tinggi melalui BlueField-4 berkecepatan 800Gb/s. Sistem ini juga lebih fleksibel dalam hal kebutuhan keandalan dibanding penyimpanan tradisional karena data dapat diregenerasi.

Beberapa perusahaan teknologi seperti VAST Data dan Micron turut berperan dalam mengembangkan penyimpanan berbasis ICMSP. VAST Data menonjol dengan metode erasure coding yang mengurangi overhead dan menggunakan teknik pengurangan data, sementara Micron mengembangkan SSD berkapasitas sangat besar yang mendukung kebutuhan penyimpanan konteks ini.

Para pakar memperkirakan teknologi ini akan mendorong permintaan besar untuk penyimpanan DRAM dan NAND di pusat data AI, yang memungkinkan pengalaman inferensi AI lebih unggul dan efisien. Namun, hal ini juga menuntut inovasi lebih lanjut pada produksi dan pengelolaan memori agar tetap terjangkau dan ramah lingkungan.

Referensi:
[1] https://www.forbes.com/sites/tomcoughlin/2026/01/16/icmsp-could-drive-additional-100eb-of-ai-storage/

Analisis Ahli

Kevin Deierling

"ICMSP adalah inovasi jaringan penyimpanan baru yang mampu menjembatani gap antara memori cepat GPU dan penyimpanan tradisional."

Phil Manez

"16TB per GPU akan mendorong eksabita penyimpanan konteks, tapi teknologi erasure coding dan data reduction dapat mengatasi tantangannya."

Jeremy Werner

"Momentum pasar memori sangat positif dengan investasi kapasitas besar, mendukung tren memory disaggregation dan performa tinggi penyimpanan generasi baru."

Analisis Kami

"Pengembangan ICMSP merupakan langkah maju yang sangat tepat untuk mengatasi tantangan scalability dan efisiensi inferensi AI yang selama ini menjadi kendala utama. Namun, konsekuensi dari peningkatan kebutuhan penyimpanan ini harus diantisipasi dengan inovasi teknologi memori lebih sustainable agar tidak menambah beban biaya dan konsumsi energi secara signifikan."

Prediksi Kami

Teknologi ICMSP akan mendorong pertumbuhan permintaan besar-besaran untuk penyimpanan SSD dan memori khususnya di pusat data AI, yang berpotensi menyebabkan kenaikan harga dan inovasi dalam solusi penyimpanan yang hemat energi dan kapasitas tinggi.

Pertanyaan Terkait

Apa itu arsitektur AI Rubin Vera yang diperkenalkan NVIDIA?

Arsitektur AI Rubin Vera adalah arsitektur baru yang diperkenalkan NVIDIA untuk mendukung aplikasi AI yang lebih canggih.

Bagaimana ICMSP membantu dalam penyimpanan memori konteks?

ICMSP membantu menyimpan data memori konteks yang dapat digunakan untuk membuat interaksi dengan AI lebih konsisten dan personal.

Apa peran BlueField-4 NIC dalam infrastruktur penyimpanan?

BlueField-4 NIC berfungsi sebagai antarmuka jaringan cerdas yang meningkatkan throughput dan efisiensi dalam penyimpanan data.

Mengapa VAST Data menganggap ICMSP penting untuk pengalaman pengguna?

VAST Data menganggap ICMSP penting karena dapat memberikan pengalaman inferensi premium bagi pelanggan.

Apa yang dikatakan Micron tentang kebutuhan penyimpanan di masa depan?

Micron menyatakan bahwa kebutuhan akan penyimpanan akan meningkat di masa depan, yang akan mengarah pada harga yang lebih tinggi dan beberapa batasan pada pembangunan pusat data AI.