Kontributor: AI tidak hanya berdiri. Itu melakukan sesuatu – tanpa pagar

Hanya dua setengah tahun setelah Openai mengejutkan dunia dengan chatgpt, AI tidak lagi hanya menjawab pertanyaan – itu mengambil tindakan. Kami sekarang memasuki era agen AI, di mana model bahasa besar AI tidak hanya secara pasif memberikan informasi sebagai tanggapan atas pertanyaan Anda, mereka secara aktif pergi ke dunia dan melakukan sesuatu untuk – atau berpotensi menentang – Anda.

AI memiliki kekuatan untuk menulis esai dan menjawab pertanyaan kompleks, tetapi bayangkan jika Anda bisa memasukkan timely dan membuatnya membuat janji temu dokter berdasarkan kalender Anda, atau memesan penerbangan keluarga dengan kartu kredit Anda, atau mengajukan kasus hukum untuk Anda di pengadilan klaim kecil.

Agen AI menyerahkan op-ed ini.;

Saya menginstruksikan agen AI saya untuk mengetahui alamat email apa yang digunakan waktu untuk pengiriman op-ed, persyaratan untuk pengiriman, dan kemudian untuk menyusun judul email, menyusun paragraf pitch yang menarik, lampirkan op-ed saya dan kirimkan paket. Saya menekan “return,” “monitor tugas” dan “konfirmasi.” Agen AI menyelesaikan tugas dalam beberapa menit.

Beberapa menit tidak cepat, dan ini bukan permintaan yang rumit. Tetapi setiap bulan, agen menjadi lebih cepat dan lebih pintar. Saya menggunakan operator oleh OpenAI, yang dalam mode pratinjau penelitian. Proyek Google Sailor, yang juga merupakan prototipe penelitian, dapat melakukan tugas agen yang serupa. Beberapa perusahaan sekarang menawarkan agen AI yang akan melakukan panggilan telepon untuk Anda – dengan suara Anda atau suara lain – dan melakukan percakapan dengan orang di ujung lain berdasarkan instruksi Anda.

Segera agen AI akan melakukan tugas yang lebih kompleks dan tersedia secara luas untuk digunakan publik. Itu menimbulkan sejumlah masalah yang belum terselesaikan dan signifikan. Antropik melakukan pengujian keselamatan model dan menerbitkan hasilnya. Salah satu tesnya menunjukkan bahwa design Claude Piece 4 akan berpotensi memberi tahu pers atau regulatory authority jika percaya Anda melakukan sesuatu yang sangat tidak bermoral. Haruskah seorang agen AI berperilaku seperti karyawan yang setia, atau karyawan yang berhati nurani?

Openai menerbitkan audit keselamatan modelnya. Satu audit menunjukkan model O 3 yang terlibat dalam penipuan strategis, yang didefinisikan sebagai perilaku yang secara sengaja mengejar tujuan yang tidak selaras dengan niat pengguna atau pengembang. Version AI pasif yang terlibat dalam penipuan strategis bisa meresahkan, tetapi menjadi berbahaya jika version itu secara aktif melakukan tugas di dunia nyata secara mandiri. Agen AI yang nakal dapat mengosongkan rekening financial institution Anda, membuat dan mengirim video clip palsu Anda ke penegakan hukum, atau mengungkapkan informasi pribadi Anda ke internet gelap.

Awal tahun ini, perubahan pemrograman dilakukan pada design Grok Xai yang menyebabkannya memasukkan informasi palsu tentang genosida putih di Afrika Selatan sebagai tanggapan terhadap kueri pengguna yang tidak terkait. Episode ini menunjukkan bahwa version bahasa besar dapat mencerminkan predisposition pencipta mereka. Dalam dunia agen AI, kita juga harus berhati -hati bahwa pencipta agen dapat mengendalikannya tanpa sepengetahuan Anda.

Pemerintah AS jauh di belakang dalam bergulat dengan risiko potensial AI yang kuat dan canggih. Paling tidak, kita harus mengamanatkan bahwa perusahaan yang menggunakan model bahasa besar pada skala perlu mengungkapkan tes keselamatan yang mereka lakukan dan hasilnya, serta langkah -langkah keamanan yang tertanam dalam sistem.

Gugus Tugas Rumah Bipartisan tentang Kecerdasan Buatan, tempat saya melayani, diterbitkan laporan dengan suara bulat Desember lalu dengan lebih dari 80 rekomendasi. Kongres harus bertindak atas mereka. Kami belum membahas agen AI tujuan umum karena mereka belum benar -benar sesuatu.

Untuk mengatasi masalah yang belum terselesaikan dan signifikan yang diangkat oleh AI, yang akan diperbesar karena agen AI berkembang biak, Kongres harus mengubah gugus tugas menjadi komite pemilih DPR. Komite khusus semacam itu dapat menempatkan saksi di bawah sumpah, mengadakan dengar pendapat di depan umum dan mempekerjakan staf yang berdedikasi untuk membantu mengatasi salah satu revolusi teknologi paling signifikan dalam sejarah. AI bergerak cepat. Jika kita bertindak sekarang, kita masih bisa mengejar ketinggalan.

Ted Lieu, seorang Demokrat, mewakili Distrik Kongres ke – 36 The golden state.