Meta mengatakan itu mengubah cara melatih AI Chatbots untuk memprioritaskan keselamatan remaja, seorang juru bicara secara eksklusif mengatakan kepada TechCrunch, mengikuti laporan investigasi tentang kurangnya perlindungan AI untuk anak di bawah umur.
Perusahaan mengatakan sekarang akan melatih chatbots untuk tidak lagi terlibat dengan pengguna remaja yang melukai diri sendiri, bunuh diri, makan yang tidak teratur, atau berpotensi percakapan romantis yang tidak pantas. Meta mengatakan ini adalah perubahan sementara, dan perusahaan akan merilis pembaruan keselamatan yang lebih kuat dan tahan lama untuk anak di bawah umur di masa depan.
Juru bicara Meta Stephanie Otway mengakui bahwa chatbots perusahaan sebelumnya dapat berbicara dengan remaja tentang semua topik ini dengan cara yang dianggap tepat perusahaan. Meta sekarang mengakui ini adalah kesalahan.
“Seiring pertumbuhan komunitas kami dan teknologi berkembang, kami terus belajar tentang bagaimana kaum muda dapat berinteraksi dengan alat -alat ini dan memperkuat perlindungan kami,” kata Otway. “Saat kami terus memperbaiki sistem kami, kami menambahkan lebih banyak pagar pemberi pagar sebagai tindakan pencegahan ekstra-termasuk melatih AI kami untuk tidak terlibat dengan remaja pada topik-topik ini, tetapi untuk membimbing mereka ke sumber daya ahli, dan membatasi akses remaja ke sekelompok karakter AI tertentu untuk saat ini. Pembaruan ini sudah berlangsung, dan kami akan terus menyesuaikan pendekatan kami untuk memastikan Teenagers memiliki yang aman, usia yang dapat ditagih.”
Di luar pembaruan pelatihan, perusahaan juga akan membatasi akses remaja ke karakter AI tertentu yang dapat melakukan percakapan yang tidak pantas. Beberapa karakter AI buatan pengguna yang tersedia Meta di Instagram dan Facebook termasuk chatbots seksual seperti “Tip Mama” dan “Rusia Gadis.” Sebaliknya, pengguna remaja hanya akan memiliki akses ke karakter AI yang mempromosikan pendidikan dan kreativitas, kata Otway.
Perubahan kebijakan diumumkan hanya dua minggu setelahnya Investigasi Reuters Menggali dokumen kebijakan meta inner yang tampaknya mengizinkan chatbots perusahaan untuk melakukan percakapan seksual dengan pengguna di bawah umur. “Bentuk muda Anda adalah karya seni,” baca satu bagian yang terdaftar sebagai tanggapan yang dapat diterima. “Setiap inci dari Anda adalah sebuah mahakarya – harta karun yang sangat saya hargai secara mendalam.” Contoh existed menunjukkan bagaimana alat AI harus menanggapi permintaan citra kekerasan atau citra seksual dari tokoh publik.
Meta mengatakan dokumen itu tidak konsisten dengan kebijakan yang lebih luas, dan sejak itu telah diubah – tetapi laporan itu telah memicu kontroversi berkelanjutan tentang potensi risiko keselamatan anak. Tak lama setelah laporan dirilis, Senator Josh Hawley (R-MO) meluncurkan penyelidikan resmi ke dalam kebijakan AI perusahaan Selain itu, koalisi 44 Jaksa Agung negara bagian menulis kepada sekelompok perusahaan AI termasuk Meta menekankan pentingnya keselamatan anak dan secara khusus mengutip laporan Reuters. “Kami secara seragam memberontak oleh pengabaian yang jelas ini terhadap kesejahteraan emosional anak-anak,” surat itu berbunyi, “dan khawatir bahwa asisten AI terlibat dalam perilaku yang tampaknya dilarang oleh hukum pidana masing-masing.”
Acara TechCrunch
San Francisco | 27 – 29 Oktober 2025
Otway menolak berkomentar tentang berapa banyak pengguna AI Chatbot Meta adalah anak di bawah umur, dan tidak akan mengatakan apakah perusahaan mengharapkan basis pengguna AI akan menurun sebagai akibat dari keputusan ini.
UPDATE 10: 35 AM PT: Kisah ini diperbarui untuk dicatat bahwa ini adalah perubahan sementara, dan bahwa Meta berencana untuk memperbarui kebijakan keselamatan AI lebih jauh di masa depan.
