Startup penyimpanan data terdistribusi ini ingin memanfaatkan Big Cloud

Melesatnya perusahaan-perusahaan AI telah mendorong permintaan akan daya komputasi ke titik ekstrem baru, dan perusahaan-perusahaan seperti CoreWeave, Together AI, dan Lambda Labs telah memanfaatkan permintaan tersebut, menarik banyak perhatian dan modal karena kemampuan mereka dalam menawarkan kapasitas komputasi terdistribusi.

Namun sebagian besar perusahaan masih menyimpan data di tiga penyedia cloud terbesar, AWS, Google Cloud, dan Microsoft Azure, yang sistem penyimpanannya dibuat untuk menjaga data tetap dekat dengan sumber daya komputasi mereka, tidak tersebar di beberapa cloud atau wilayah.

“Beban kerja AI modern dan infrastruktur AI memilih komputasi terdistribusi daripada cloud besar,” kata Ovais Tariq, salah satu pendiri dan CEO Tigris Data, kepada TechCrunch. “Kami ingin memberikan opsi penyimpanan yang sama, karena tanpa penyimpanan, komputasi bukanlah apa-apa.”

Tigris, yang didirikan oleh tim yang mengembangkan platform penyimpanan Uber, sedang membangun jaringan pusat penyimpanan data lokal yang diklaim dapat memenuhi kebutuhan komputasi terdistribusi dari beban kerja AI modern. Platform penyimpanan asli AI dari startup tersebut “bergerak bersama komputasi Anda, (memungkinkan) data (untuk) secara otomatis direplikasi ke tempat GPU berada, mendukung miliaran file kecil, dan menyediakan akses latensi rendah untuk pelatihan, inferensi, dan beban kerja agen,” kata Tariq.

Untuk melakukan semua itu, Tigris baru-baru ini mengumpulkan putaran Seri A senilai $25 juta yang dipimpin oleh Spark Capital dan melibatkan partisipasi dari investor yang ada, termasuk Andreessen Horowitz, yang secara eksklusif dipelajari oleh TechCrunch. Startup ini menentang petahana, yang disebut Tariq sebagai “Awan Besar”.

Tariq merasa para petahana ini tidak hanya menawarkan layanan penyimpanan data yang lebih mahal, namun juga kurang efisien. AWS, Google Cloud, dan Microsoft Azure secara historis membebankan biaya keluar (disebut “pajak cloud” dalam industri) jika pelanggan ingin bermigrasi ke penyedia cloud lain, atau mengunduh dan memindahkan data mereka jika mereka ingin, misalnya, menggunakan GPU yang lebih murah atau melatih model di berbagai belahan dunia secara bersamaan. Anggap saja seperti harus membayar ekstra ke gym jika Anda ingin berhenti pergi ke sana.

Menurut Batuhan Taskaya, kepala teknik di Fal.ai, salah satu pelanggan Tigris, biaya-biaya tersebut pernah menyumbang sebagian besar pengeluaran cloud Fal.

Selain biaya keluar, Tariq mengatakan masih ada masalah latensi dengan penyedia cloud yang lebih besar. “Biaya keluar hanyalah salah satu gejala dari masalah yang lebih dalam: penyimpanan terpusat yang tidak dapat mengimbangi ekosistem AI yang terdesentralisasi dan berkecepatan tinggi,” katanya.

Sebagian besar dari 4.000+ pelanggan Tigris adalah seperti Fal.ai: startup AI generatif yang membangun model gambar, video, dan suara, yang cenderung memiliki kumpulan data besar dan sensitif terhadap latensi.

“Bayangkan berbicara dengan agen AI yang melakukan audio lokal,” kata Tariq. “Anda menginginkan latensi terendah. Anda ingin komputasi Anda bersifat lokal, dekat, dan Anda juga ingin penyimpanan Anda bersifat lokal.”

Cloud besar tidak dioptimalkan untuk beban kerja AI, tambahnya. Streaming kumpulan data besar-besaran untuk pelatihan atau menjalankan inferensi real-time di berbagai wilayah dapat menimbulkan hambatan latensi, sehingga memperlambat performa model. Namun kemampuan mengakses penyimpanan lokal berarti pengambilan data lebih cepat, yang berarti pengembang dapat menjalankan beban kerja AI dengan andal dan lebih hemat biaya menggunakan cloud terdesentralisasi.

“Tigris memungkinkan kami meningkatkan beban kerja kami di cloud apa pun dengan menyediakan akses ke sistem file data yang sama dari semua tempat ini tanpa mengenakan biaya keluar,” kata Fal’s Taskaya.

Ada alasan lain mengapa perusahaan ingin memiliki data yang lebih dekat dengan opsi cloud terdistribusi mereka. Misalnya, dalam bidang yang memiliki peraturan ketat seperti keuangan dan layanan kesehatan, salah satu hambatan besar dalam mengadopsi alat AI adalah perusahaan perlu memastikan keamanan data.

Motivasi lainnya, kata Tariq, adalah semakin banyaknya perusahaan yang ingin memiliki datanya, seperti yang ditunjukkan oleh Salesforce awal tahun ini memblokir pesaing AI-nya dari menggunakan data Slack. “Perusahaan kini semakin menyadari betapa pentingnya data, bagaimana data dapat mendorong LLM, dan bagaimana data dapat mendorong AI,” kata Tariq. “Mereka ingin lebih memegang kendali. Mereka tidak ingin orang lain mengendalikannya.”

Dengan dana segar tersebut, Tigris bermaksud untuk terus membangun pusat penyimpanan datanya untuk mendukung peningkatan permintaan — Tariq mengatakan bahwa startup tersebut telah tumbuh 8x setiap tahun sejak didirikan pada November 2021. Tigris telah memiliki tiga pusat data di Virginia, Chicago, dan San Jose, dan ingin terus berekspansi di AS serta di Eropa dan Asia, khususnya di London, Frankfurt, dan Singapura.