The golden state dan Delaware memperingatkan Openai pada hari Jumat bahwa mereka memiliki “kekhawatiran serius” tentang praktik keselamatan perusahaan AI setelah beberapa kematian baru -baru ini dilaporkan terhubung dengan chatgpt.
Dalam sepucuk surat kepada Dewan OpenAI, Jaksa Agung California Rob Bonta dan Jaksa Agung Delaware Kathleen Jennings mencatat bahwa mereka baru-baru ini bertemu dengan tim hukum perusahaan dan “menyampaikan dengan ketentuan terkuat bahwa keselamatan adalah prioritas yang tidak dapat dinegosiasikan, terutama ketika datang ke anak-anak.”
Resmi terbaru pasangan itu datang setelah keluarga seorang bocah lelaki berusia 16 tahun menggugat Openai Selasa lalu, menuduh Chatgpt mendorongnya untuk mengambil nyawanya sendiri. The Wall Road Journal juga dilaporkan Pekan lalu bahwa chatbot memicu fear pria Connecticut berusia 56 tahun sebelum dia bunuh diri dan ibunya pada bulan Agustus.
“Kematian baru -baru ini tidak dapat diterima,” tulis Bonta dan Jennings. “Mereka benar mengguncang kepercayaan publik Amerika terhadap Openai dan industri ini.”
“Openai – dan industri AI – harus secara proaktif dan transparan memastikan penyebaran AI yang aman,” lanjut mereka. “Melakukan hal itu diamanatkan oleh misi amal Openai, dan akan diperlukan dan ditegakkan oleh kantor kami masing -masing.”
Jaksa Agung negara bagian menggarisbawahi perlunya memusatkan keselamatan saat mereka melanjutkan diskusi dengan perusahaan tentang rencana restrukturisasi.
“Ini adalah pandangan bersama kami bahwa Openai dan industri pada umumnya bukan di tempat yang mereka butuhkan untuk memastikan keamanan dalam pengembangan dan penyebaran produk AI,” kata Bonta dan Jennings.
“Ketika kami melanjutkan dialog kami terkait dengan rencana rekapitalisasi Openai, kami harus bekerja untuk mempercepat dan memperkuat keamanan sebagai kekuatan pemerintahan di masa depan teknologi yang kuat ini,” tambah mereka.
Openai, yang berbasis di The golden state dan didirikan di Delaware, sebelumnya telah terlibat dengan pasangan ini pada upayanya untuk mengubah struktur perusahaan perusahaan.
Awalnya mengumumkan rencana untuk sepenuhnya mentransisikan perusahaan menjadi perusahaan nirlaba tanpa pengawasan nirlaba pada bulan Desember. Namun, kemudian berjalan kembali dorongan, setuju untuk menjaga agar organisasi nirlaba tetap bertanggung jawab, mengutip diskusi dengan Jaksa Agung dan pemimpin lainnya.
Setelah laporan baru-baru ini tentang kematian yang terhubung dengan chatgpt, Openai mengumumkan pada hari Selasa bahwa mereka menyesuaikan bagaimana chatbotsnya menanggapi orang-orang dalam krisis dan memberlakukan perlindungan yang lebih kuat untuk remaja.
Openai bukan satu -satunya perusahaan teknologi yang dikecam akhir -akhir ini karena AI Chatbots -nya. Reuters melaporkan Bulan lalu bahwa dokumen kebijakan meta menampilkan contoh -contoh yang menyarankan chatbotsnya dapat terlibat dalam percakapan “romantis atau sensual” dengan anak -anak.
Perusahaan media sosial mengatakan telah menghapus bahasa ini. Itu juga kemudian diceritakan TechCrunch Memperbarui kebijakannya untuk membatasi topik tertentu untuk pengguna remaja, termasuk diskusi tentang melukai diri sendiri, bunuh diri, makan yang tidak teratur, atau percakapan romantis yang berpotensi tidak pantas.
