Jaksa Agung California Rob Bonta dan Jaksa Agung Delaware Kathy Jennings bertemu dan mengirim Surat terbuka untuk openai untuk mengungkapkan kekhawatiran mereka atas keselamatan chatgpt, terutama untuk anak -anak dan remaja.
Peringatan itu datang seminggu setelah Bonta dan 44 Jaksa Agung lainnya mengirim surat kepada 12 perusahaan AI teratas, mengikuti laporan interaksi yang tidak pantas secara seksual antara AI Chatbots dan anak -anak.
“Sejak penerbitan surat itu, kami mengetahui kematian yang memilukan dengan bunuh diri seorang anak California setelah ia memperpanjang interaksi dengan chatbot Openai, serta bunuh diri pembunuhan yang sama-sama mengganggu di Connecticut,” tulis Bonta dan Jennings. “Apa pun perlindungan yang ada tidak berhasil.”
Kedua pejabat negara saat ini sedang menyelidiki restrukturisasi yang diusulkan Openai menjadi entitas nirlaba untuk memastikan bahwa misi organisasi nirlaba tetap utuh. Misi itu “termasuk memastikan bahwa kecerdasan buatan dikerahkan dengan aman” dan membangun kecerdasan umum buatan (AGI) untuk menguntungkan semua umat manusia, “termasuk anak -anak,” sesuai surat.
“Sebelum kita dapat menguntungkan, kita perlu memastikan bahwa langkah -langkah keamanan yang memadai ada untuk tidak membahayakan,” lanjut surat itu. “Ini adalah pandangan bersama kami bahwa Openai dan industri pada umumnya bukan di mana mereka harus memastikan keamanan dalam pengembangan dan penyebaran produk AI. Sebagai Jaksa Agung, Keselamatan Publik adalah salah satu misi inti kami. Saat kami melanjutkan dialog kami terkait dengan Rencana Rekapitalisasi Openai, kami harus bekerja untuk mempercepat dan menguatkan keamanan sebagai kekuatan pemerintahan di masa depan ini.
Bonta dan Jennings telah meminta informasi lebih lanjut tentang tindakan pencegahan dan tata kelola keselamatan Openai saat ini, dan mengatakan mereka berharap perusahaan mengambil langkah -langkah perbaikan segera jika perlu.
TechCrunch telah menghubungi Openai untuk memberikan komentar.
Acara TechCrunch
San Francisco
|
27-29 Oktober 2025
