OpenAI Rolls Out Sistem perutean keselamatan, kontrol orang tua di chatgpt

Openai mulai menguji sistem perutean keselamatan baru di ChatGPT selama akhir pekan, dan pada hari Senin memperkenalkan kontrol orang tua ke chatbot – menggambar reaksi beragam dari pengguna.

Fitur keamanan datang sebagai tanggapan terhadap banyak insiden model chatgpt tertentu yang memvalidasi pemikiran delusi pengguna alih -alih mengarahkan kembali percakapan berbahaya. Openai menghadapi gugatan kematian yang salah terkait dengan satu insiden seperti itu, setelah seorang remaja laki -laki meninggal karena bunuh diri setelah berbulan -bulan interaksi dengan chatgpt.

Sistem routing dirancang untuk mendeteksi percakapan yang sensitif secara emosional dan secara otomatis beralih mid-obrolan ke GPT-5-berpikir, yang menurut perusahaan sebagai model terbaik yang dilengkapi untuk pekerjaan keselamatan berisiko tinggi. Secara khusus, model GPT-5 dilatih Fitur Keselamatan Baru yang oleh Openai menyebut “penyelesaian yang aman,” yang memungkinkan mereka untuk menjawab pertanyaan sensitif dengan cara yang aman, daripada hanya menolak untuk terlibat.

Ini kontras dari model obrolan perusahaan sebelumnya, yang dirancang untuk disetujui dan menjawab pertanyaan dengan cepat. GPT-4O telah berada di bawah pengawasan khusus karena sifatnya yang terlalu sycophantic, yang menyenangkan, yang keduanya memicu insiden delusi yang diinduksi AI dan menarik basis besar pengguna yang berdedikasi. Ketika Openai meluncurkan GPT-5 sebagai default pada bulan Agustus, banyak pengguna mendorong kembali dan menuntut akses ke GPT-4O.

Sementara banyak ahli dan pengguna telah menyambut fitur keselamatan, yang lain mengkritik apa yang mereka lihat sebagai implementasi yang terlalu hati -hati, dengan beberapa pengguna menuduh Openai memperlakukan orang dewasa seperti anak -anak dengan cara yang menurunkan kualitas layanan. Openai telah menyarankan bahwa memperbaikinya akan memakan waktu dan telah memberi dirinya periode iterasi dan peningkatan 120 hari.

Nick Turley, VP dan Kepala Aplikasi Chatgpt, mengakui beberapa “reaksi kuat terhadap respons 4O” karena implementasi router dengan penjelasan.

“Routing terjadi berdasarkan per-pesan; beralih dari model default terjadi secara sementara,” Turley diposting di x. “Chatgpt akan memberi tahu Anda model mana yang aktif ketika ditanya. Ini adalah bagian dari upaya yang lebih luas untuk memperkuat perlindungan dan belajar dari penggunaan dunia nyata sebelum peluncuran yang lebih luas.”

Implementasi Kontrol Orangtua di ChatGpt diterima tingkat pujian dan cemoohan yang serupadengan beberapa orang memuji memberi orang tua cara untuk mengawasi penggunaan AI anak -anak mereka, dan yang lain takut bahwa itu membuka pintu untuk Openai memperlakukan orang dewasa seperti anak -anak.

Kontrol memungkinkan orang tua menyesuaikan pengalaman remaja mereka dengan mengatur jam tenang, mematikan mode dan memori suara, menghapus pembuatan gambar, dan memilih keluar dari pelatihan model. Akun remaja juga akan mendapatkan perlindungan konten tambahan-seperti berkurangnya konten grafis dan cita-cita kecantikan yang ekstrem-dan sistem deteksi yang mengenali tanda-tanda potensial yang mungkin dipikirkan seorang remaja tentang melukai diri sendiri.

“Jika sistem kami mendeteksi potensi bahaya, tim kecil orang yang terlatih secara khusus meninjau situasi,” per Openai Blog. “Jika ada tanda -tanda kesusahan akut, kami akan menghubungi orang tua melalui email, pesan teks dan mendorong peringatan di telepon mereka, kecuali mereka telah memilih keluar.”

Openai mengakui bahwa sistem tidak akan sempurna dan kadang -kadang dapat meningkatkan alarm ketika tidak ada bahaya nyata, “tapi kami pikir lebih baik bertindak dan mengingatkan orang tua sehingga mereka dapat melangkah daripada tetap diam.” Perusahaan AI mengatakan juga bekerja pada cara -cara untuk mencapai penegakan hukum atau layanan darurat jika mendeteksi ancaman yang akan segera terjadi dan tidak dapat menjangkau orang tua.