Meta sedang mengerjakan kontrol pengawasan baru yang memungkinkan orang tua sepenuhnya memutus akses remaja mereka ke chatbot AI di platformnya. Meskipun alat ini dapat menghilangkan kemampuan remaja untuk melibatkan karakter AI dalam obrolan satu lawan satu, mereka masih dapat mengakses chatbot Meta AI secara umum. Jika orang tua tidak ingin memblokir anak remajanya untuk mengakses bot AI secara keseluruhan, mereka juga dapat memblokir karakter AI tertentu. Selain itu, orang tua akan bisa mendapatkan wawasan tentang topik yang sedang didiskusikan anak-anak mereka dengan bot AI Meta. Perusahaan saat ini sedang membangun kontrol ini dan akan mulai meluncurkannya di Instagram awal tahun depan dalam bahasa Inggris di AS, Inggris, Kanada, dan Australia. Perhatikan bahwa gambar di atas hanyalah ilustrasi, dan antarmuka alat masih dapat berubah.
Perusahaan ini mendapat kecaman sejak dokumen internal Meta bocor beberapa bulan lalu, yang menunjukkan bahwa mereka mengizinkan chatbotnya melakukan percakapan “sensual” dengan anak-anak. Salah satu contohnya adalah Meta chatbot yang memberi tahu anak berusia delapan tahun yang bertelanjang dada bahwa “setiap inci diri Anda adalah sebuah mahakarya — sebuah harta yang sangat saya hargai.” Jaksa Agung AS dari 44 yurisdiksi mendesak perusahaan untuk melindungi anak-anak “dari eksploitasi produk kecerdasan buatan predator” setelah informasi tersebut keluar. Subkomite Komite Senat untuk Kejahatan dan Kontraterorisme, yang diketuai oleh Senator Josh Hawley (R-MO), juga akan menyelidiki perusahaan tersebut.
Tak lama setelah dokumen internal bocor, Meta mulai melatih kembali AI-nya dan menambahkan perlindungan baru untuk mencegah pengguna yang lebih muda mengakses karakter AI buatan pengguna yang mungkin terlibat dalam percakapan yang tidak pantas. Mereka juga memperkenalkan perlindungan sesuai usia sehingga AI-nya akan memberikan respons remaja yang dipandu oleh rating film PG-13. Selain itu, kini hanya memungkinkan remaja untuk berinteraksi dengan sekelompok karakter AI terbatas, dengan fokus pada topik sesuai usia.
