Openai mengumumkan Hari ini bahwa ini sedang mengembangkan “pengalaman chatgpt yang berbeda” yang disesuaikan untuk remaja, sebuah langkah yang menggarisbawahi kekhawatiran yang berkembang tentang dampak chatbots AI pada kesehatan mental anak muda.
Mode remaja yang baru adalah bagian dari dorongan keselamatan yang lebih luas oleh perusahaan setelah gugatan oleh keluarga yang menuduh kurangnya perlindungan chatgpt berkontribusi pada kematian dengan bunuh diri putra remaja mereka. Perubahan termasuk teknologi prediksi usia untuk menjaga anak di bawah 18 tahun dari versi standar chatgpt. Menurut pengumuman itu, jika sistem tidak dapat dengan percaya diri memperkirakan usia seseorang, chatgpt akan secara otomatis default ke pengalaman di bawah 18.
“Kami memprioritaskan keselamatan di depan privasi dan kebebasan untuk remaja; ini adalah teknologi baru dan kuat, dan kami percaya anak di bawah umur membutuhkan perlindungan yang signifikan,” tulis CEO Openai Sam Altman di posting blog.
Jangan lewatkan konten teknologi kami yang tidak memihak dan ulasan berbasis laboratorium. Tambahkan CNET Sebagai sumber Google yang disukai.
Apa yang Baru dalam Mode Remaja Chatgpt
Openai mengatakan versi remaja akan datang dengan batas bawaan yang lebih ketat, seperti:
- Filter konten: Tidak ada percakapan genit atau diskusi tentang melukai diri sendiri, bahkan dalam konteks fiksi atau penulisan kreatif.
- Respons Krisis: Jika seorang remaja mengungkapkan pikiran bunuh diri, Openai dapat mencoba mengingatkan orang tua, dan dalam situasi darurat, bahkan menghubungi otoritas.
- Kontrol orang tua: Orang tua dapat menautkan akun, menetapkan aturan untuk bagaimana chatgpt menanggapi dan menegakkan “jam pemadaman” ketika aplikasi terlarang.
(Pengungkapan: Ziff Davis, perusahaan induk CNET, pada bulan April mengajukan gugatan terhadap pembuat chatgpt Openai, menuduhnya melanggar hak cipta Ziff Davis dalam pelatihan dan mengoperasikan sistem AI -nya.)
Konteks yang lebih besar
Pengumuman Openai datang hanya beberapa jam sebelum sidang Senat di Washington, DC, memeriksa potensi ancaman AI terhadap kaum muda. Anggota parlemen telah mendesak perusahaan teknologi tentang keselamatan remaja mengikuti tuntutan hukum yang menuduh platform AI yang memburuk perjuangan kesehatan mental atau memberikan nasihat kesehatan yang berbahaya.
Pendekatan Openai mencerminkan gerakan sebelumnya oleh perusahaan seperti Google, yang memutar anak -anak YouTube setelah kritik dan tekanan peraturan. Posting blog Altman membingkai langkah ini sebagai bagian dari tindakan penyeimbangan yang lebih luas antara keselamatan, privasi, dan kebebasan. Orang dewasa, menurutnya, harus diperlakukan “seperti orang dewasa” dengan lebih sedikit pembatasan, sementara remaja membutuhkan perlindungan tambahan – bahkan jika itu berarti berkompromi pada privasi, seperti meminta ID.
Baca juga: Openai ingin Anda mendapatkan sertifikat di chatgpt dan menemukan pekerjaan Anda berikutnya
Perusahaan mengatakan akan meluncurkan pengalaman yang berfokus pada remaja ini pada akhir tahun ini. Sejarah menunjukkan, bagaimanapun, bahwa remaja yang cerdas sering menemukan solusi untuk mendapatkan akses tidak terbatas. Ini pasti akan menjadi pertanyaan apakah pagar pembatas ini cukup untuk melindungi remaja yang melek teknologi yang nyaman memanjatnya.
Jika Anda merasa seperti Anda atau seseorang yang Anda kenal dalam bahaya langsung, hubungi 911 (atau jalur darurat lokal negara Anda) atau pergi ke ruang gawat darurat untuk mendapatkan bantuan segera. Jelaskan bahwa ini adalah keadaan darurat kejiwaan dan meminta seseorang yang dilatih untuk situasi semacam ini. Jika Anda berjuang dengan pikiran negatif atau perasaan bunuh diri, sumber daya tersedia untuk membantu. Di AS, hubungi Lifeline Pencegahan Bunuh Diri Nasional di 988.
