Secara kontroversial termasuk XAI Elon Musk dalam serangkaian kontrak Departemen Pertahanan senilai hingga $ 200 juta adalah keputusan terlambat dalam pertandingan di bawah pemerintahan Trump, kata seorang mantan karyawan Pentagon. Kontrak telah bekerja selama berbulan -bulan, dengan perencanaan yang berasal dari administrasi Biden, kata Glenn Parham, mantan karyawan Pentagon yang bekerja pada tahap awal inisiatif.
Sebelum Parham mengambil pembelian pemerintah pada bulan Maret, katanya, merencanakan kontrak tidak termasuk XAI. Parham adalah pemimpin teknis kecerdasan buatan generatif di kepala kantor digital dan intelijen buatan Pentagon dan membantu menegosiasikan kesepakatan dan mengintegrasikan AI ke dalam inisiatif departemen pertahanan.
“Belum ada diskusi tunggal dengan siapa pun dari X atau Xai, sampai waktu saya pergi,” katanya. “Ini agak entah dari mana.”
Pentagon akhirnya mengumumkan kontrak dengan empat perusahaan Minggu lalu: Antropik, Google, OpenAi dan XAI. Setiap kontrak memiliki lantai $ 2 juta dan plafon $ 200 juta, dengan jumlah pembayaran tergantung pada bagaimana setiap kemitraan berjalan. (Kontrak Openai adalah Awalnya diumumkan bulan lalu.) Termasuk Musk’s Xai menimbulkan pertanyaan di antara para ahli kecerdasan buatan.
Beberapa hari sebelum pengumuman, Grok, chatbot Xai, telah melakukan omelan antisemit yang perusahaan berjuang untuk dikendalikan. Perusahaan ini juga meluncurkan “teman” animasi kontroversial AI yang bisa sugestif secara seksual dan kejam. Musk berkata dia gabungan x dan xai di bulan Maret.
Singkatnya, Xai tidak memiliki jenis reputasi atau rekam jejak yang biasanya mengarah pada kontrak pemerintah yang menguntungkan, bahkan ketika Musk memiliki sejarah panjang bekerja dengan pemerintah. Para kritikus bertanya -tanya apakah model Xai cukup dapat diandalkan untuk pekerjaan pemerintah.
Selasa lalu, Pemimpin Minoritas Senat Chuck Schumer, DN.Y, disebut kontrak “Salah” dan “berbahaya” di lantai Senat, mengemukakan insiden antisemit Grok, di mana ia menyebut dirinya “Mechahitler.” Dia bersikeras Bahwa “pemerintahan Trump harus menjelaskan bagaimana ini terjadi, parameter kesepakatan dan mengapa mereka berpikir keamanan nasional kita tidak layak memenuhi standar yang lebih tinggi.”
Parham mengatakan program itu, yang disebut sebagai kemitraan antara Departemen Pertahanan dan perusahaan-perusahaan teknologi AS yang berada di perbatasan pengembangan intelijen buatan, yang awalnya berfokus pada perusahaan AI yang lebih mapan, termasuk Openai dan Anthropic, yang, selain lebih tua dari Xai, juga memiliki kesepakatan jangka panjang dengan perusahaan komputasi awan utama dan menjalin hubungan dengan militer.
Tidak jelas apa yang mendorong pejabat Pentagon untuk menambahkan Xai ke campuran kontraktor sejak Maret. Kepala Kantor Intelijen Digital dan Buatan Departemen, yang mengumumkan kontrak, tidak menjawab pertanyaan tertulis tentang mengapa ia memilih XAI, tetapi Pentagon mengatakan dalam sebuah pernyataan bahwa episode antisemitisme tidak cukup untuk mendiskualifikasi itu.
“Beberapa model AI perbatasan telah menghasilkan output yang dipertanyakan selama pengembangan mereka yang sedang berlangsung dan departemen akan mengelola risiko yang terkait dengan area teknologi yang muncul ini selama proses prototipe,” kata departemen pertahanan kepada NBC News dalam sebuah pernyataan Jumat.
“Risiko -risiko ini tidak menjamin tidak termasuk penggunaan kemampuan ini sebagai bagian dari upaya prototyping DoD,” katanya.
Departemen mengatakan “model AI perbatasan,” pada dasarnya, berada di ujung tombak dan dengan demikian menawarkan peluang dan risiko.
Xai tidak menanggapi permintaan komentar Jumat dan Senin.
Termasuk Xai menambahkan kerutan pada hubungan Musk yang rumit dengan pemerintah federal. Bahkan sebelum waktu Musk sebagai penasihat Gedung Putih tahun ini kepada Presiden Donald Trump, kerajaan bisnisnya sudah memiliki ikatan yang dalam di dalam pemerintahan, termasuk kontrak untuk perusahaan roket Musk, SpaceX. Musk dan Trump sekarang terkunci dalam perseteruan yang aktif, tidak lagi lagi, dan Musk telah bersumpah untuk meluncurkan partai politik ketiga yang berfokus pada pengurangan utang federal. Dia mengulangi sumpah baru -baru ini 6 Julimeskipun dia tampaknya tidak mengambil langkah publik konkret untuk mengaturnya. Trump memiliki mengancam kontrak pemerintah Musk Selama perselisihan.
Beberapa ahli mengatakan mereka bisa melihat mengapa Departemen Pertahanan mungkin ingin memasukkan XAI sebagai mitra, terlepas dari kekurangannya.
“Saya pikir departemen mendapat manfaat ketika terlibat dengan sebanyak mungkin organisasi,” kata Morgan Plummer, direktur kebijakan untuk orang Amerika untuk inovasi yang bertanggung jawab, sebuah kelompok advokasi yang umumnya mendukung jalan tengah tentang mengatur AI.
Parham mengatakan bahwa gagasan untuk program $ 800 juta mendahului administrasi Trump dan pekerjaan itu dimulai pada Oktober setelah Presiden Joe Biden mengeluarkan Perintah Eksekutif tentang AI dan keamanan nasional. Dia mengatakan bahwa dia mengerjakannya selama sekitar lima bulan sebelum dia pergi dan, secara keseluruhan, dia menghabiskan hampir tiga tahun di Departemen Pertahanan bekerja di AI.
Kontrak dengan keempat perusahaan AI juga secara signifikan memperdalam hubungan militer dengan teknologi paling besar yang muncul. Sebagai imbalan atas jutaan dolar, militer akan menggunakan model bahasa besar masing -masing perusahaan (LLM), yang bagi banyak pengguna sering kali mengambil bentuk chatbot. Para ahli mengatakan mereka berharap militer menggunakan LLMS untuk berbagai tujuan, dari tugas yang lebih duniawi seperti merangkum email hingga kegunaan yang lebih rumit seperti menerjemahkan bahasa atau menganalisis kecerdasan.
Proyek AI lain yang dipelopori oleh Departemen Pertahanan termasuk Project Mavensistem yang mengintegrasikan sejumlah besar sumber data dan data dengan pembelajaran mesin, untuk ditampilkan dan digunakan selama konflik.
Dalam industri AI, kemampuan Xai diperdebatkan dengan panas. GROK mendapat skor tinggi pada beberapa tolok ukur kecerdasan buatanseperti tolok ukur bernama “Ujian terakhir umat manusia”Yang terdiri dari pertanyaan yang dikirimkan oleh Subjek Pakar. Tetapi dalliance baru-baru ini dengan neo-Nazisme-dan, sebelum itu, dengan hubungan ras di Afrika Selatan asli Musk-menjadikan chatbot objek cemoohan di industri dan di antara publik yang lebih luas.
“Grok mungkin yang paling tidak aman dari sistem ini. Ini melakukan beberapa hal yang sangat aneh,” kata kritikus AI Gary Marcus, seorang profesor psikologi emeritus di Universitas New York.
Marcus menunjukkan diatribi ideologis Grok dan keputusan Xai bukan untuk merilis laporan keselamatan Itu telah menjadi standar industri untuk model AI terkemuka.
Parham mengatakan dia yakin XAI mungkin membutuhkan lebih banyak waktu daripada tiga kontraktor Pentagon lainnya untuk memiliki teknologinya sepenuhnya tersedia untuk militer. Dia mengatakan perusahaan lain, termasuk antropik dan openai, telah melalui tinjauan pemerintah yang panjang dan proses kepatuhan untuk memiliki perangkat lunak mereka – termasuk antarmuka pemrograman aplikasi mereka, yang digunakan coders untuk membangun di atas LLM – yang diizinkan untuk digunakan. Dia mengatakan itu, hingga Maret ketika dia pergi, Xai tidak melakukan hal yang sama.
“Saya akan membutuhkan waktu lebih lama, saya pikir, untuk benar -benar (mendapatkan) model mereka diluncurkan di lingkungan pemerintah,” katanya. “Bukan tidak mungkin. Hanya saja mereka jauh, jauh, jauh, jauh di belakang dari orang lain.”
Parham mengatakan proses persetujuan untuk Antropik dan Openai mengambil alih satu tahun dari dokumen yang diajukan ke otorisasi yang diberikan.
Penggunaan Pentagon dari LLMS komersial telah menarik beberapa kritik, sebagian karena model AI umumnya dilatih pada set data yang sangat besar yang mungkin termasuk informasi pribadi di web terbuka. Mencampur informasi itu dengan aplikasi militer terlalu berisikokata Sarah Myers West, direktur co-eksekutif AI Now Institute, sebuah organisasi penelitian.
“Ini memperkenalkan kerentanan keamanan dan privasi ke dalam infrastruktur kritis kami,” katanya.
XAI adalah startup yang relatif muda. Musk memulainya pada tahun 2023 setelah ikut mendirikan Openai bertahun-tahun sebelumnya dan kemudian berselisih dengan CEO-nya, Sam Altman.
Beberapa ahli dalam AI dan sistem pertahanan mengatakan mereka terkejut dengan kehancuran antisemit Grok baru -baru ini dan bertanya -tanya apakah sesuatu yang serupa mungkin berulang sebagai bagian dari penggunaan pemerintah.
“Saya akan memiliki beberapa kekhawatiran terkait keselamatan berdasarkan rilis model terbaru mereka,” kata Josh Wallin, yang meneliti persimpangan AI dan militer di Pusat Keamanan Amerika Baru, sebuah think tank yang cenderung Demokrat.
Wallin mengatakan pengabdian antisemitisme Grok menunjukkan potensi perilaku yang tidak terduga atau berisiko, seperti menghadirkan informasi palsu atau menyesatkan sebagai fakta, yang dikenal sebagai halusinasi.
“Katakanlah Anda secara otomatis menghasilkan laporan dari berbagai sumber intelijen atau Anda menghasilkan laporan harian untuk seorang komandan. Akan ada kekhawatiran tentang apakah yang Anda dapatkan adalah halusinasi,” katanya.
