CEO Kotak Aaron Levie di ‘era konteks’ AI

Pada hari Kamis, Box meluncurkan Konferensi Pengembang Boxworks dengan mengumumkan serangkaian fitur AI baru, membangun model AI agen ke tulang punggung produk perusahaan.

Ini lebih banyak pengumuman produk dari biasanya untuk konferensi, mencerminkan kecepatan pengembangan AI yang semakin cepat di perusahaan: Box meluncurkan studio AI tahun lalu, diikuti oleh serangkaian agen ekstraksi data baru di bulan Februaridan lainnya untuk pencarian dan penelitian mendalam pada bulan Mei.

Sekarang perusahaan meluncurkan sistem baru yang disebut Kotak Otomatis Itu berfungsi sebagai semacam sistem operasi untuk agen AI, memecah alur kerja menjadi segmen yang berbeda yang dapat ditambah dengan AI seperlunya.

Saya berbicara dengan CEO Aaron Levie tentang pendekatan perusahaan terhadap AI, dan pekerjaan berbahaya untuk bersaing dengan perusahaan model yayasan. Tidak mengherankan, ia sangat bullish tentang kemungkinan agen AI di tempat kerja modern, tetapi ia juga jelas tentang keterbatasan model saat ini dan bagaimana mengelola keterbatasan tersebut dengan teknologi yang ada.

Wawancara ini telah diedit untuk panjang dan kejelasan.

Anda mengumumkan banyak produk AI hari ini, jadi saya ingin mulai dengan bertanya tentang visi gambaran besar. Mengapa membangun agen AI menjadi layanan manajemen konten cloud?

Jadi hal yang kita pikirkan sepanjang hari – dan apa fokus kita di kotak – adalah seberapa banyak pekerjaan yang berubah karena AI. Dan sebagian besar dampak saat ini adalah pada alur kerja yang melibatkan data yang tidak terstruktur. Kami sudah dapat mengotomatiskan apa pun yang berkaitan dengan data terstruktur yang masuk ke dalam database. Jika Anda berpikir tentang sistem CRM, sistem ERP, sistem SDM, kami sudah memiliki otomatisasi bertahun -tahun di ruang itu. Tapi di mana kita belum pernah memiliki otomatisasi adalah apa pun yang menyentuh data yang tidak terstruktur.

Pikirkan tentang proses peninjauan hukum apa pun, segala jenis proses manajemen aset pemasaran, segala jenis tinjauan kesepakatan M&A – semua alur kerja tersebut menangani banyak data yang tidak terstruktur. Orang harus meninjau data itu, membuat pembaruan untuk itu, membuat keputusan dan sebagainya. Kami tidak pernah dapat membawa banyak otomatisasi ke alur kerja tersebut. Kami telah dapat menggambarkannya dalam perangkat lunak, tetapi komputer tidak cukup baik dalam membaca dokumen atau melihat aset pemasaran.

Jadi bagi kami, agen AI berarti bahwa, untuk pertama kalinya, kami benar -benar dapat memanfaatkan semua data yang tidak terstruktur ini.

Bagaimana dengan risiko agen yang digunakan dalam konteks bisnis? Beberapa pelanggan Anda harus gugup dalam menggunakan sesuatu seperti ini pada data sensitif.

Apa yang telah kami lihat dari pelanggan adalah mereka ingin tahu bahwa setiap kali mereka menjalankan alur kerja itu, agen akan mengeksekusi lebih atau kurang dengan cara yang sama, pada titik yang sama dalam alur kerja, dan tidak memiliki hal -hal yang tidak sesuai dengan rel. Anda tidak ingin memiliki agen membuat kesalahan peracikan di mana, setelah mereka melakukan pasangan 100 pertama, mereka mulai berjalan liar.

Menjadi sangat penting untuk memiliki titik demarkasi yang tepat, di mana agen mulai dan bagian lain dari sistem akhir. Untuk setiap alur kerja, ada pertanyaan tentang apa yang perlu memiliki pagar deterministik, dan apa yang bisa sepenuhnya agen dan non-deterministik.

Apa yang dapat Anda lakukan dengan Box Automate adalah memutuskan berapa banyak pekerjaan yang Anda ingin setiap agen lakukan sebelum menyerahkan ke agen yang berbeda. Jadi Anda mungkin memiliki agen pengiriman yang terpisah dari agen ulasan, dan sebagainya. Ini memungkinkan Anda untuk menggunakan agen AI pada dasarnya dalam skala dalam segala jenis alur kerja atau proses bisnis dalam organisasi.

Masalah seperti apa yang Anda lawan dengan membagi alur kerja?

Kami telah melihat beberapa keterbatasan bahkan dalam sistem agen yang sepenuhnya sepenuhnya canggih seperti Claude Code. Pada titik tertentu dalam tugas, model kehabisan ruang konteks untuk terus membuat keputusan yang baik. Tidak ada makan siang gratis sekarang di AI. Anda tidak bisa hanya memiliki agen yang sudah berjalan lama dengan jendela konteks tak terbatas mengejar tugas apa pun dalam bisnis Anda. Jadi, Anda harus memecah alur kerja dan menggunakan SBAGENS.

Saya pikir kita berada di era konteks dalam AI. Apa yang dibutuhkan model dan agen AI adalah konteks, dan konteks yang mereka butuhkan untuk bekerja adalah duduk di dalam data Anda yang tidak terstruktur. Jadi seluruh sistem kami benar -benar dirancang untuk mencari tahu konteks apa yang dapat Anda berikan kepada agen AI untuk memastikan bahwa mereka berkinerja seefektif mungkin.

Ada perdebatan yang lebih besar di industri tentang manfaat model perbatasan besar dan kuat dibandingkan dengan model yang lebih kecil dan lebih dapat diandalkan. Apakah ini menempatkan Anda di sisi model yang lebih kecil?

Saya mungkin harus mengklarifikasi: Tidak ada yang mencegah sistem kami mencegah tugas menjadi sewenang -wenang atau kompleks. Yang kami coba lakukan adalah membuat pagar pembatas yang tepat sehingga Anda dapat memutuskan bagaimana agen yang Anda inginkan.

Kami tidak memiliki filosofi khusus tentang di mana orang harus berada di kontinum itu. Kami hanya mencoba merancang arsitektur tahan masa depan. Kami telah merancang ini sedemikian rupa di mana, seiring dengan meningkatnya model dan seiring dengan meningkatnya kemampuan agen, Anda hanya akan mendapatkan semua manfaat itu secara langsung di platform kami.

Kekhawatiran lainnya adalah kontrol data. Karena model dilatih pada begitu banyak data, ada ketakutan nyata bahwa data sensitif akan dimuntahkan atau disalahgunakan. Bagaimana faktor itu?

Di sinilah banyak penyebaran AI salah. Orang -orang berpikir, “Hei, ini mudah. ​​Saya akan memberikan akses model AI ke semua data saya yang tidak terstruktur, dan itu akan menjawab pertanyaan untuk orang lain.” Dan kemudian mulai memberi Anda jawaban pada data yang tidak Anda miliki akses atau Anda tidak boleh memiliki akses. Anda memerlukan lapisan yang sangat kuat yang menangani kontrol akses, keamanan data, izin, tata kelola data, kepatuhan, semuanya.

Jadi kami mendapat manfaat dari beberapa dekade yang kami habiskan untuk membangun sistem yang pada dasarnya menangani masalah yang tepat: bagaimana Anda memastikan hanya orang yang tepat yang memiliki akses ke setiap bagian data di perusahaan? Jadi ketika seorang agen menjawab pertanyaan, Anda tahu secara menentukan bahwa ia tidak dapat menggambar pada data apa pun yang tidak boleh diakses oleh orang tersebut. Itu hanya sesuatu yang secara fundamental dibangun ke dalam sistem kami.

Awal pekan ini, Anthropic merilis fitur baru untuk mengunggah file langsung ke Claude.ai. Ini jauh dari jenis manajemen file yang dilakukan kotak, tetapi Anda harus memikirkan kemungkinan persaingan dari perusahaan model yayasan. Bagaimana Anda mendekati itu secara strategis?

Jadi, jika Anda berpikir tentang perusahaan apa yang dibutuhkan ketika mereka menggunakan AI pada skala, mereka membutuhkan keamanan, izin, dan kontrol. Mereka membutuhkan antarmuka pengguna, mereka membutuhkan API yang kuat, mereka menginginkan pilihan model AI mereka, karena suatu hari, satu model AI memberi kekuatan pada kasus penggunaan untuk mereka yang lebih baik dari yang lain, tetapi kemudian itu mungkin berubah, dan mereka tidak ingin dikunci ke dalam satu platform tertentu.

Jadi apa yang kami bangun adalah sistem yang memungkinkan Anda memiliki semua kemampuan secara efektif. Kami melakukan penyimpanan, keamanan, izin, embedding vektor, dan kami terhubung ke setiap model AI terkemuka yang ada di luar sana.