Namun, pengembang mengatakan bahwa membawa kode dari CUDA NVIDIA ke ROCM bukanlah proses yang mulus, yang berarti mereka biasanya fokus pada pembangunan hanya untuk satu vendor chip.
“ROCM luar biasa, open source, tapi berjalan pada satu perangkat keras vendor,” Lattner memberi tahu orang banyak Di acara AI AMD yang memajukan pada bulan Juni. Kemudian dia membuat pitchnya mengapa perangkat lunak Modular lebih portabel dan membuat GPU lebih cepat.
Pembicaraan Lattner di AMD adalah mewakili jenis tarian yang perlu dilakukan Lattner dan Davis saat mereka menyebarkan Injil modular. Saat ini, Nvidia dan AMD keduanya merupakan mitra penting bagi perusahaan. Di alam semesta masa depan, mereka juga pesaing langsung. Bagian dari proposisi nilai Modular adalah bahwa ia dapat mengirimkan perangkat lunak untuk mengoptimalkan GPU lebih cepat daripada NVIDIA, karena mungkin ada celah selama berbulan-bulan antara ketika NVIDIA mengirimkan GPU baru dan ketika merilis “Kernel Perhatian”-bagian kritis dari perangkat lunak GPU.
“Saat ini Modular gratis untuk AMD dan NVIDIA, tetapi seiring waktu Anda bisa melihat kedua perusahaan itu merasa terancam oleh ROCM atau CUDA yang bukan menjadi perangkat lunak terbaik yang berada di atas chip mereka,” kata Munichiello. Dia juga khawatir bahwa pelanggan cloud potensial mungkin menolak untuk membayar lapisan perangkat lunak tambahan seperti Modular.
Menulis perangkat lunak untuk GPU juga merupakan “seni gelap,” kata Waleed Atallah, salah satu pendiri dan CEO Mako, sebuah perusahaan optimasi kernel GPU. “Memetakan algoritma ke GPU adalah hal yang sangat sulit untuk dilakukan. Ada seratus juta devs perangkat lunak, 10.000 yang menulis kernel GPU, dan mungkin seratus yang bisa melakukannya dengan baik.”
Mako membangun agen AI untuk mengoptimalkan pengkodean untuk GPU. Beberapa pengembang berpikir itu adalah masa depan untuk industri ini, daripada membangun kompiler universal atau bahasa pemrograman baru seperti Modular. Mako baru saja mengumpulkan $ 8,5 juta dana benih dari Flybridge Capital dan startup Accelerator Neo.
“Kami mencoba mengambil pendekatan berulang untuk pengkodean dan mengotomatiskannya dengan AI,” kata Atallah. “Dengan membuatnya lebih mudah untuk menulis kode, Anda secara eksponensial menumbuhkan jumlah orang yang dapat melakukannya. Membuat kompiler lain lebih merupakan solusi tetap.”
Lattner mencatat bahwa Modular juga menggunakan alat pengkodean AI. Tetapi perusahaan ini berniat mengatasi seluruh tumpukan pengkodean, bukan hanya kernel.
Ada sekitar 250 juta alasan mengapa investor berpikir pendekatan ini layak. Lattner adalah semacam orang termasyhur di dunia pengkodean, setelah sebelumnya membangun proyek infrastruktur kompiler open source LLVM, serta bahasa pemrograman cepat Apple. Dia dan Davis sama -sama yakin bahwa ini adalah masalah perangkat lunak yang harus diselesaikan di luar lingkungan teknologi besar, di mana sebagian besar perusahaan fokus pada membangun perangkat lunak untuk tumpukan teknologi mereka sendiri.
“Ketika saya meninggalkan Google, saya sedikit tertekan, karena saya benar -benar ingin menyelesaikan ini,” kata Lattner. “Apa yang kami sadari adalah bahwa ini bukan tentang orang pintar, ini bukan tentang uang, ini bukan tentang kemampuan. Ini masalah struktural.”
Munichiello berbagi mantra yang umum di dunia investasi teknologi: Dia mengatakan dia bertaruh pada para pendiri sebanyak produk mereka. “Dia sangat berpendapat dan tidak sabar, dan juga banyak waktu,” kata Munichiello tentang Lattner. “Steve Jobs juga seperti itu – dia tidak membuat keputusan berdasarkan konsensus, tetapi dia sering benar.”
