Openai sedang mengembangkan sistem yang dirancang untuk mengidentifikasi pengguna remaja secara otomatis dan membatasi penggunaan chatgpt mereka. Di posting blog Diterbitkan Selasaperusahaan mengatakan pengalaman baru akan datang dengan kebijakan yang sesuai usia, termasuk blok konten seksual grafis. “Dalam kasus tekanan akut,” sistem ini juga akan memiliki kemampuan untuk menghubungi penegak hukum untuk memastikan keselamatan pengguna. Dalam skenario di mana chatgpt tidak dapat secara definitif memperkirakan usia pengguna, itu akan default mereka ke pengalaman baru yang terjaga keamanannya. OpenAI akan menyediakan cara bagi pengguna dewasa untuk memverifikasi usia mereka dan membuka kunci kemampuan penuh ChatGPT. Perusahaan tidak menyatakan ketika berencana untuk menggunakan sistem baru.
Pengumuman itu mengikuti kematian Adam Raine yang berusia 16 tahun, remaja pertama yang diyakini telah melakukan bunuh diri setelah Chatgpt diduga membantunya merencanakan kematiannya. Segera setelah bunuh diri, Openai berjanji untuk melepaskan kontrol yang dirancang untuk memberi orang tua dan wali lebih banyak mengatakan tentang penggunaan chatgpt remaja mereka. Pada hari Selasa, perusahaan menegaskan kembali bahwa kontrol tersebut akan tiba sebelum akhir bulan, dan mengatakan mereka akan memasukkan fitur tambahan yang akan memberi orang tua kemampuan untuk menetapkan jam di mana anak mereka tidak dapat menggunakan chatgpt.
Terpisah, openai menerbitkan surat Dari CEO Sam Altman yang merinci pemikiran perusahaan tentang masalah ini. “Kami memprioritaskan keselamatan di depan privasi dan kebebasan untuk remaja; ini adalah teknologi baru dan kuat, dan kami percaya anak di bawah umur membutuhkan perlindungan yang signifikan,” kata Altman. “Kami menyadari bahwa prinsip -prinsip ini bertentangan dan tidak semua orang akan setuju dengan bagaimana kami menyelesaikan konflik itu. Ini adalah keputusan yang sulit, tetapi setelah berbicara dengan para ahli, inilah yang kami pikir terbaik dan ingin transparan dalam niat kami.”
