Gugatan mengklaim OpenAI merilis design GPT- 4 O tanpa langkah-langkah keamanan yang tepat. Dikatakan bahwa perusahaan lebih fokus pada pertumbuhan daripada perlindungan pengguna. Raines mencari kerusakan dan ingin pengadilan mengarahkan verifikasi usia, menghalangi permintaan melukai diri sendiri dan termasuk peringatan tentang risiko psikologis di crawler.
Pada insiden itu, juru bicara Openai memberi tahu Reuters bahwa perusahaan itu “sedih” oleh kematian Adam. “Sementara perlindungan ini (hotline bunuh diri) bekerja paling baik, pertukaran pendek, kami telah belajar dari waktu ke waktu bahwa mereka kadang -kadang dapat menjadi kurang dapat diandalkan dalam interaksi panjang di mana bagian -bagian dari pelatihan keselamatan version dapat menurun,” kata juru bicara itu.
Di blognya, Openai mengatakan bahwa sejak awal 2023, robot telah menghindari memberikan instruksi melukai diri sendiri dan merespons dengan empati. Balasan berbahaya diblokir secara otomatis, terutama untuk anak di bawah umur. Jika pengguna berencana untuk menyakiti orang lain, percakapan ditinjau oleh staf terlatih yang dapat melarang akun. Ancaman yang akan segera dilaporkan ke penegakan hukum, kata perusahaan itu.
“Kami terus meningkatkan bagaimana design kami merespons dalam interaksi sensitif, dan saat ini bekerja pada peningkatan keselamatan yang ditargetkan di beberapa bidang,” tambahnya.
Menurut Openai, meluncurkan GPT- 5 pada bulan Agustus, yang menjadi version default, meningkatkan keamanan lebih dari 25 % dibandingkan dengan GPT- 4 O. Namun, perlindungan dapat melemah dalam percakapan panjang, itu diakui.
Openai memperkuat perlindungan untuk memastikan tanggapan yang dapat diandalkan dari waktu ke waktu dan lintas obrolan. Ini juga menyempurnakan sistem pemblokiran konten dan berencana untuk memperkenalkan dukungan yang diperluas dan akses mudah ke pihak berwenang sebagai bagian dari pembaruan di masa depan, katanya.
“Kami juga akan segera memperkenalkan kontrol orang tua yang memberikan opsi orang tua untuk mendapatkan lebih banyak wawasan tentang, dan membentuk, bagaimana remaja mereka menggunakan chatgpt,” tambah perusahaan.
