CEO OpenAI Sam Altman mengumumkan pada hari Selasa sebuah rakit kebijakan pengguna baru, termasuk janji untuk secara signifikan mengubah bagaimana chatgpt berinteraksi dengan pengguna di bawah usia 18 tahun.
“Kami memprioritaskan keselamatan di depan privasi dan kebebasan untuk remaja,” kata uploading tersebut. “Ini adalah teknologi baru dan kuat, dan kami percaya anak di bawah umur membutuhkan perlindungan yang signifikan.”
Perubahan untuk pengguna di bawah umur berurusan secara khusus dengan percakapan yang melibatkan topik seksual atau melukai diri sendiri. Di bawah kebijakan baru, chatgpt akan dilatih untuk tidak lagi terlibat dalam “pembicaraan genit” dengan pengguna di bawah umur, dan pagar tambahan akan ditempatkan di sekitar diskusi bunuh diri. Jika pengguna di bawah umur menggunakan chatgpt untuk membayangkan skenario bunuh diri, layanan ini akan berusaha menghubungi orang tua mereka atau, dalam kasus -kasus yang sangat parah, polisi setempat.
Sayangnya, skenario ini bukan hipotetis. Openai saat ini menghadapi gugatan kematian yang salah dari orang tua Adam Raine, yang meninggal karena bunuh diri setelah berbulan -bulan interaksi dengan chatgpt. Karakter.ai, chatbot konsumen lain, menghadapi gugatan serupa. Sementara risikonya sangat mendesak bagi pengguna di bawah umur yang mempertimbangkan melukai diri sendiri, fenomena yang lebih luas dari khayalan yang dipicu chatbot telah menarik perhatian luas, terutama karena chatbots konsumen telah mampu melakukan interaksi yang lebih berkelanjutan dan terperinci.
Seiring dengan pembatasan berbasis konten, orang tua yang mendaftarkan akun pengguna di bawah umur akan memiliki kekuatan untuk menetapkan “jam pemadaman” di mana chatgpt tidak tersedia, fitur yang sebelumnya tidak tersedia.
Kebijakan chatgpt baru datang pada hari yang sama dengan Sidang Komite Kehakiman Senat Berjudul “Memeriksa bahaya chatbots AI.” Sidang diumumkan oleh Senator Josh Hawley (R-MO) pada bulan Agustus Ayah Adam Raine dijadwalkan untuk berbicara di persidangan, di antara tamu lain.
Sidang juga akan fokus pada temuan a Investigasi Reuters Dokumen kebijakan yang digali itu tampaknya mendorong percakapan seksual dengan pengguna di bawah umur. Meta memperbarui kebijakan chatbot -nya setelah laporan.
Acara TechCrunch
San Francisco | 27 – 29 Oktober 2025
Memisahkan pengguna di bawah umur akan menjadi tantangan teknis yang signifikan, dan Openai merinci pendekatannya dalam posting blog terpisah Layanan ini “membangun ke arah sistem jangka panjang untuk memahami apakah seseorang berusia lebih atau di bawah 18,” tetapi dalam banyak kasus yang ambigu, sistem akan gagal bayar terhadap aturan yang lebih ketat.
Untuk orang tua yang peduli, cara yang paling dapat diandalkan untuk memastikan pengguna di bawah umur diakui adalah dengan menautkan akun remaja ke akun orang tua yang ada. Ini juga memungkinkan sistem untuk secara langsung mengingatkan orang tua ketika pengguna remaja diyakini dalam kesulitan.
Tetapi dalam publishing yang sama, Altman menekankan komitmen Openai yang berkelanjutan untuk privasi pengguna dan memberikan kebebasan luas kepada pengguna dewasa dalam cara mereka memilih untuk berinteraksi dengan chatgpt. “Kami menyadari bahwa prinsip -prinsip ini bertentangan,” postingan itu menyimpulkan, “dan tidak semua orang akan setuju dengan bagaimana kami menyelesaikan konflik itu.”
Jika Anda atau seseorang yang Anda kenal membutuhkan bantuan, hubungi 1 – 800 – 273 – 8255 untuk Lifeline Pencegahan Bunuh Diri Nasional Anda juga dapat mengirim SMS ke rumah ke 741 – 741 secara gratis; Teks 988; atau mendapatkan dukungan 24 jam dari Baris teks krisis Di luar AS, silakan kunjungi Asosiasi Internasional untuk Pencegahan Bunuh Diri untuk data source sumber daya.
