Mulai hari ini, Openai meluncurkan alat pengaman chatgpt yang dimaksudkan untuk digunakan orang tua dengan remaja mereka. Pembaruan di seluruh dunia ini mencakup kemampuan untuk orang tua, serta penegakan hukum, untuk menerima pemberitahuan jika seorang anak – dalam hal ini, pengguna antara usia 13 dan 18 – meluncurkan dalam percakapan chatbot tentang kerusakan diri atau bunuh diri.
Perubahan ini tiba ketika Openai digugat oleh orang tua yang menuduh chatgpt berperan dalam kematian anak mereka. Chatbot itu diduga mendorong remaja bunuh diri untuk menyembunyikan jerat di kamar mereka yang tidak terlihat dari anggota keluarga, menurut melaporkan dari The posting Times
Secara keseluruhan, pengalaman konten untuk remaja menggunakan chatgpt diubah dengan pembaruan ini. “Begitu orang tua dan remaja menghubungkan akun mereka, akun remaja akan secara otomatis mendapatkan perlindungan konten tambahan,” membaca blog prompt Openai yang mengumumkan peluncuran. “Termasuk berkurangnya konten grafis, tantangan viral, peran seksual, romantis atau kekerasan, dan cita-cita kecantikan yang ekstrem, untuk membantu menjaga pengalaman mereka sesuai usia.”
Di bawah batasan baru, jika seorang remaja menggunakan akun ChatGPT memasuki prompt terkait dengan ide-ide yang melukai diri sendiri atau bunuh diri, email dikirim ke tim pengulas manusia yang memutuskan apakah akan memicu pemberitahuan potensial orang tua.
“Kami akan menghubungi Anda sebagai orang tua dalam segala hal yang kami bisa,” kata Lauren Haber Jonas, kepala kesejahteraan pemuda Openai. Orang tua dapat memilih untuk menerima peringatan ini melalui teks, prompt, dan pemberitahuan dari aplikasi ChatGPT.
Peringatan yang mungkin diterima orang tua dalam situasi ini diharapkan tiba dalam beberapa jam setelah percakapan ditandai untuk ditinjau. Di saat -saat di mana setiap menit penting, penundaan ini kemungkinan akan membuat frustrasi bagi orang tua yang menginginkan lebih banyak peringatan instan tentang keselamatan anak mereka. Openai bekerja untuk mengurangi jeda waktu pemberitahuan.
Peringatan yang berpotensi dikirim ke orang tua oleh Openai akan secara luas menyatakan bahwa anak tersebut mungkin telah menulis psychological yang terkait dengan bunuh diri atau kerusakan diri. Ini juga dapat mencakup strategi percakapan dari para ahli kesehatan trial untuk digunakan orang tua saat berbicara dengan anak mereka.
Dalam e-mail prelaunch, contoh baris subjek word play here yang ditunjukkan kepada masalah keamanan yang disorot tetapi tidak secara eksplisit menyebutkan bunuh diri. Apa yang juga tidak akan dimasukkan oleh pemberitahuan orang tua adalah kutipan langsung dari percakapan anak – apa output yang diminta maupun mediator. Orang tua dapat menindaklanjuti dengan pemberitahuan dan meminta perangko waktu percakapan.
“Kami ingin memberi orang tua informasi yang cukup untuk mengambil tindakan dan melakukan percakapan dengan remaja mereka sambil tetap mempertahankan sejumlah privasi remaja,” kata Jonas, “karena konten juga dapat mencakup informasi sensitif lainnya.”
Akun orang tua maupun remaja harus memilih fitur keselamatan ini untuk diaktifkan. Ini berarti orang tua perlu mengirim undangan remaja mereka agar akun mereka dipantau, dan remaja itu diharuskan menerimanya. Tautan akun juga dapat diprakarsai oleh remaja.
Openai dapat menghubungi penegakan hukum dalam situasi di mana worldwide manusia menentukan bahwa seorang remaja mungkin dalam bahaya dan orang tua tidak dapat dicapai melalui pemberitahuan. Tidak jelas seperti apa koordinasi dengan penegakan hukum ini, terutama pada skala international.
