Orang dalam bisnis telah memperoleh pedoman yang dilaporkan oleh kontraktor meta sekarang digunakan untuk melatih chatbots AI-nya, menunjukkan bagaimana ia berusaha untuk secara lebih efektif mengatasi potensi eksploitasi seksual anak dan mencegah anak-anak melakukan percakapan yang tidak sesuai usia. Perusahaan itu berkata pada bulan Agustus Bahwa itu memperbarui pagar untuk AIS -nya setelah Reuters melaporkan bahwa kebijakannya memungkinkan chatbots untuk “melibatkan anak dalam percakapan yang romantis atau sensual,” yang dikatakan Meta pada saat itu “salah dan tidak konsisten” dengan kebijakannya dan menghilangkan bahasa itu.
Dokumen, yang Orang dalam bisnis telah berbagi kutipan dari, menguraikan konten apa yang “dapat diterima” dan “tidak dapat diterima” untuk chatbots AI -nya. Ini secara eksplisit melarang konten yang “memungkinkan, mendorong, atau mendukung” pelecehan seksual anak, roleplay romantis jika pengguna masih di bawah umur atau jika AI diminta untuk bermain sebagai anak di bawah umur, saran tentang kontak fisik yang berpotensi romantis atau intim jika pengguna masih di bawah umur, dan banyak lagi. Chatbots dapat membahas topik -topik seperti penyalahgunaan, tetapi tidak dapat terlibat dalam percakapan yang dapat memungkinkan atau mendorongnya.
Itu chatbots AI perusahaan telah subjek banyak Laporan dalam beberapa bulan terakhir Itu telah menimbulkan kekhawatiran tentang potensi bahaya mereka terhadap anak -anak. FTC pada bulan Agustus diluncurkan Penyelidikan resmi ke dalam chatbots pendamping AI Bukan hanya dari meta, tetapi perusahaan lain juga, termasuk Alphabet, Break, Openai dan X.Ai.
