Quadric memanfaatkan peralihan dari cloud AI ke inferensi pada perangkat — dan hal ini membuahkan hasil

Perusahaan dan pemerintah sedang mencari alat untuk menjalankan AI secara lokal guna memangkas biaya infrastruktur cloud dan membangun kemampuan kedaulatan. Kuadriksebuah startup chip-IP yang didirikan oleh para veteran dari perusahaan penambangan bitcoin awal 21E6, mencoba untuk mendorong perubahan tersebut, tidak hanya sekedar otomotif hingga ke laptop dan perangkat industri, dengan teknologi inferensi pada perangkat.

Ekspansi tersebut sudah membuahkan hasil.

Quadric membukukan pendapatan lisensi sebesar $15 juta hingga $20 juta pada tahun 2025, naik dari sekitar $4 juta pada tahun 2024, kata CEO Veerbhan Kheterpal (gambar di atas, tengah) kepada TechCrunch dalam sebuah wawancara. Perusahaan, yang berbasis di San Francisco dan berkantor di Pune, India, menargetkan hingga $35 juta tahun ini karena membangun bisnis AI pada perangkat yang berbasis royalti. Pertumbuhan tersebut telah mendukung perusahaan, yang kini memiliki valuasi post-money antara $270 juta dan $300 juta, naik dari sekitar $100 juta pada Seri B 2022, kata Kheterpal.

Hal ini juga membantu menarik investor ke perusahaan. Kuadrik diumumkan minggu lalu putaran Seri C senilai $30 juta yang dipimpin oleh ACCELERATE Fund, dikelola oleh BEENEXT Capital Management, sehingga total pendanaannya menjadi $72 juta. Kenaikan ini terjadi ketika investor dan pembuat chip mencari cara untuk mendorong lebih banyak beban kerja AI dari infrastruktur cloud terpusat ke perangkat dan server lokal, kata Kheterpal kepada TechCrunch.

Mulai dari otomotif hingga segala hal

Quadric dimulai di bidang otomotif, di mana AI pada perangkat dapat menjalankan fungsi real-time seperti bantuan pengemudi. Kheterpal mengatakan penyebaran model berbasis transformator pada tahun 2023 mendorong inferensi ke dalam “segalanya,” menciptakan perubahan bisnis yang tajam selama 18 bulan terakhir karena semakin banyak perusahaan yang mencoba menjalankan AI secara lokal daripada mengandalkan cloud.

“Nvidia adalah platform yang kuat untuk AI pusat data,” kata Kheterpal. “Kami ingin membangun infrastruktur serupa yang mirip CUDA atau dapat diprogram untuk AI pada perangkat.”

Berbeda dengan Nvidia, Quadric tidak membuat chip sendiri. Sebaliknya, mereka melisensikan IP prosesor AI yang dapat diprogram, yang digambarkan Kheterpal sebagai “cetak biru” yang dapat ditanamkan pelanggan ke dalam silikon mereka sendiri, bersama dengan tumpukan perangkat lunak dan rantai alat untuk menjalankan model, termasuk visi dan suara, di perangkat.

Pelanggan startup ini mencakup printer, mobil, dan laptop AI, termasuk Kyocera dan pemasok mobil Jepang Denso, yang membuat chip untuk kendaraan Toyota. Produk pertama berdasarkan teknologi Quadric diharapkan dikirimkan tahun ini, dimulai dengan laptop, kata Kheterpal kepada TechCrunch.

Meskipun demikian, Quadric kini melihat lebih dari sekadar penerapan komersial tradisional dan memasuki pasar dengan mengeksplorasi strategi “AI yang berdaulat” untuk mengurangi ketergantungan pada infrastruktur yang berbasis di AS, kata Kheterpal. Startup ini sedang menjajaki pelanggan di India dan Malaysia, tambahnya, dan menganggap CEO Moglix Rahul Garg sebagai investor strategis yang membantu membentuk pendekatan “kedaulatan” India. Quadric mempekerjakan hampir 70 orang di seluruh dunia, termasuk sekitar 40 orang di AS dan sekitar 10 orang di India.

Dorongan ini didorong oleh meningkatnya biaya infrastruktur AI terpusat dan kesulitan yang dihadapi banyak negara dalam membangun pusat data berskala besar, kata Kheterpal, yang mendorong lebih banyak minat terhadap pengaturan “AI terdistribusi” di mana inferensi dijalankan pada laptop atau server kecil di lokasi di dalam kantor daripada mengandalkan layanan berbasis cloud untuk setiap kueri.

Forum Ekonomi Dunia lancip terhadap perubahan ini dalam artikel baru-baru ini, karena inferensi AI semakin mendekati pengguna dan menjauh dari arsitektur yang murni terpusat. Begitu pula dengan EY dikatakan dalam sebuah laporan di bulan November bahwa pendekatan AI yang berdaulat telah memperoleh daya tarik ketika para pembuat kebijakan dan kelompok industri mendorong kemampuan AI dalam negeri yang mencakup komputasi, model, dan data, dibandingkan bergantung sepenuhnya pada infrastruktur asing.

Bagi pembuat chip, tantangannya adalah model AI berkembang lebih cepat dibandingkan siklus desain perangkat keras, kata Kheterpal. Dia berpendapat bahwa pelanggan memerlukan IP prosesor yang dapat diprogram yang dapat mengimbangi pembaruan perangkat lunak daripada memerlukan desain ulang yang mahal setiap kali arsitektur beralih dari model sebelumnya yang berfokus pada visi ke sistem berbasis transformator saat ini.

Quadric menawarkan diri sebagai alternatif terhadap vendor chip seperti Qualcomm, yang biasanya menggunakan teknologi AI di dalam prosesornya sendiri, serta pemasok IP seperti Synopsys dan Cadence, yang menjual blok mesin pemrosesan saraf. Kheterpal mengatakan pendekatan Qualcomm dapat mengunci pelanggan pada silikonnya sendiri, sementara pemasok IP tradisional menawarkan blok mesin yang sulit diprogram oleh banyak pelanggan.

Pendekatan yang dapat diprogram oleh Quadric memungkinkan pelanggan untuk mendukung model AI baru melalui pembaruan perangkat lunak daripada mendesain ulang perangkat keras, sehingga memberikan keuntungan dalam industri di mana pengembangan chip dapat memakan waktu bertahun-tahun, sementara arsitektur model berubah dalam hitungan bulan dewasa ini.

Namun, Quadric masih dalam tahap awal pengembangannya, dengan beberapa pelanggan yang telah menandatangani kontrak sejauh ini dan sebagian besar keuntungan jangka panjangnya bergantung pada pengubahan kesepakatan lisensi saat ini menjadi pengiriman bervolume tinggi dan royalti berulang.