- NVIDIA mendorong pembuat SSD menuju 100 juta target penyimpanan IOPS
- Tapi CEO Silicon Motion mengatakan industri tidak memiliki teknologi memori untuk memenuhi tuntutan AI
- Memori baru mungkin diperlukan untuk membuka kunci penyimpanan AI yang sangat cepat
Ketika GPU tumbuh lebih cepat dan memori berskala data transfer ke dalam terabyte per detik, penyimpanan telah menjadi hambatan besar berikutnya dalam komputasi AI.
NVIDIA ingin mendorong penyimpanan agar sesuai dengan tuntutan model AI dengan mencapai target ambisius untuk bacaan acak blok kecil.
“Saat ini, mereka bertujuan untuk 100 juta IOPS – yang sangat besar,” Wallace C. Kuo, Chief Executive Officer Silicon Movement, katakan Perangkat keras Tom
PCIe 5.0 SSDS tercepat saat ini berada di sekitar 14 5 GB/s dan 2 hingga 3 juta IOPS dalam beban kerja yang melibatkan 4 K dan 512 -byte.
Sementara blok yang lebih besar mendukung data transfer, inferensi AI biasanya menarik little bit information yang kecil dan tersebar. Itu membuat 512 b acak membaca lebih relevan, dan jauh lebih sulit untuk dipercepat.
Kioxia sudah mempersiapkan “AI SSD” berdasarkan XL-Flash, yang diperkirakan akan melebihi 10 juta IOPS. Ini bisa diluncurkan bersama system Vera Rubin Nvidia yang akan datang tahun depan. Tetapi penskalaan di luar itu bisa membutuhkan lebih dari sekadar pengendali yang lebih cepat atau fine-tune NAND.
“Saya percaya mereka sedang mencari perubahan media,” kata Kuo. “Optane seharusnya menjadi solusi yang perfect, tetapi sudah hilang sekarang. Kioxia sedang mencoba untuk membawa XL-NAND dan meningkatkan kinerjanya. Sandisk sedang mencoba memperkenalkan flash bandwidth yang tinggi, tapi jujur, saya tidak benar-benar percaya pada itu.”
Daya, biaya, dan latensi semua menimbulkan tantangan. “Industri ini benar -benar membutuhkan sesuatu yang secara essential baru,” tambah Kuo. “Kalau tidak, akan sangat sulit untuk mencapai 100 juta IOPS dan masih hemat biaya.”
Mikron, Sandisk, dan lainnya berlomba untuk menciptakan bentuk-bentuk baru memori yang tidak mudah menguap.
Apakah ada di antara mereka yang akan tiba tepat waktu untuk gelombang perangkat keras NVIDIA berikutnya adalah yang besar tidak diketahui.
