Perangkat mikro canggih (NASDAQ: AMD) telah masuk Nvidia‘S (NASDAQ: NVDA) bayangan untuk waktu yang lama, tapi Kecerdasan Buatan (AI) Pasar bergeser dengan cara yang akhirnya bisa miring untuk AMD. Ledakan awal di AI adalah tentang pelatihan Model Bahasa Besar (LLM)dan Nvidia memiliki bagian dari pasar itu sebagian berkat perangkat lunak dan ekosistem CUDA.

Tepi itu masih tetap untuk Nvidia, tetapi kesimpulan adalah ke mana arah hal-hal yang menuju, dan itu adalah peluang jangka panjang yang jauh lebih besar.

Sumber Gambar: Getty Images.

Melatih model AI adalah proses yang berat dan mahal secara komputasi, tetapi itu hanya terjadi sekali. Inferensi – apa yang terjadi ketika model -model tersebut digunakan dan benar -benar digunakan – membutuhkan chip untuk menjalankan proses berulang kali setiap kali kueri dijalankan atau rekomendasi dikirimkan. Ketika model menjadi lebih besar dan lebih sering digunakan, permintaan untuk daya pemrosesan spesifik inferensi tumbuh. Sementara itu, biaya per inferensi akhirnya lebih penting daripada apakah chip yang mendukungnya memberikan kinerja puncak.

Inilah mengapa AMD dapat membuat terobosan ke pasar inferensi, dan sudah ada. Salah satu perusahaan AI terbesar sudah menjalankan sebagian besar lalu lintas inferensi pada unit pemrosesan grafis AMD (GPU), dan tujuh dari 10 operator AI terbesar sekarang menggunakan beberapa chipnya. Itu adalah kemajuan nyata.

Perusahaan juga telah meningkatkan platform perangkat lunak ROCM -nya, yang selalu tertinggal di belakang CUDA NVIDIA. Pembaruan terbaru, ROCM 7, dirancang dengan mempertimbangkan inferensi. Ini mungkin tidak cocok dengan CUDA pada pelatihan, tetapi untuk beban kerja inferensi, pelanggan menemukan bahwa itu cukup baik. Itu adalah poin kunci, karena begitu rintangan perangkat lunak diturunkan, percakapan menjadi lebih tentang harga dan efisiensi. Jika pelanggan dapat menghemat uang dengan menggunakan chip AMD tanpa kehilangan kinerja secara bermakna, ia akan memiliki peluang nyata untuk mengambil beberapa pangsa pasar dari pemimpin GPU.

Perkembangan lain yang dapat membentuk kembali pasar adalah konsorsium Ualink, yang AMD bantu terbentuk dalam kemitraan dengan beberapa perusahaan lain. NVIDIA NVLink telah menjadi salah satu keunggulan terbesarnya karena memungkinkan GPU -nya berbicara satu sama lain dengan kecepatan yang sangat tinggi, memungkinkan kelompok mereka untuk beroperasi hampir seperti chip raksasa tunggal. Konsorsium Ualink mendorong alternatif standar terbuka.

Tautan Sumber