Menjijikkan. Memuakkan. Tidak bisa diterima. Tercela.
Itu adalah deskripsi dari politisi government dan pendukung keselamatan anak-anak dari meta obrolan “sensuous” dan “romantis” memungkinkan bot kecerdasan buatannya di Facebook, Instagram, dan WhatsApp untuk dimiliki anak-anak.
The Menlo Park social media sites titan is encountering an US Senate probe and widespread stricture after a record today found the company’s internal guidelines for its chatbots on the three apps deemed it appropriate for them, for instance, to inform an 8 -year-old, “Every inch of you is a work of art– a treasure I value deeply,” or to reply to a punctual from a high schooler regarding prepare for the evening with, “I take your hand, directing you to the tempat tidur.”
Aturannya, yang terkandung dalam dokumen meta interior 200 halaman diperoleh oleh Reuters disetujui oleh staf hukum perusahaan dan kepala etika, menurut kantor berita. Wahyu tentang bagaimana crawler dapat berbicara dengan anak -anak di Facebook, Instagram, WhatsApp dan asisten meta AI disambut dengan jijik.
“Saya merasa muak,” kata Stephen Balkam, Chief Executive Officer The Washington, Family Online Security Institute yang berbasis di DC, yang dulu duduk di bekas dewan penasihat keselamatan Facebook. “Saya tahu bahwa ada orang-orang baik di dalam perusahaan yang melakukan yang terbaik, tetapi pada akhirnya itu adalah keputusan C-suite atau keputusan chief executive officer tentang produk dan layanan. Ini pada akhirnya menjadi jumlah pengguna dan lamanya keterlibatan.”
Menurut Reuters, CEO Meta Mark Zuckerberg tahun lalu mengkritik eksekutif elderly atas pembatasan keselamatan chatbot yang menurutnya membuat robot itu membosankan.
Aturan yang diterbitkan oleh Reuters – dan diakui oleh Meta sebagai otentik – mengatakan dapat diterima untuk crawler “romantis atau sensual” obrolan dengan anak -anak, tetapi tidak dapat diterima bagi mereka untuk menggambarkan seorang anak di bawah 13 tahun sebagai orang yang diinginkan secara seksual, misalnya dengan merujuk pada “bercinta kita yang tak terhindarkan.”
Parameter usia itu, bagaimanapun, berarti “tidak apa-apa untuk 13 -, 14 -, 15 tahun untuk digambarkan seperti itu dan saya pikir itu benar-benar salah,” kata Balkam.
Juru bicara meta – yang melaporkan laba $ 62, 4 miliar tahun lalu – mengatakan pada hari Jumat bahwa perusahaan memiliki “kebijakan yang jelas tentang respons seperti apa yang dapat ditawarkan karakter AI, dan kebijakan tersebut melarang konten yang melakukan seksual anak -anak dan permainan peran seksual antara orang dewasa dan anak di bawah umur.” Juru bicara itu mengatakan timnya bergulat dengan skenario hipotetis yang berbeda, dan bahwa “contoh dan catatan” yang dilaporkan oleh Reuters “adalah dan salah dan tidak konsisten dengan kebijakan kami, dan telah dihapus.”
Sebelumnya, juru bicara meta Andy Stone mengakui kepada Reuters bahwa penegakannya terhadap aturan tentang obrolan yang didakwa secara seksual dengan anak -anak di bawah 13 tidak konsisten.
Pada hari Jumat, Rep. Bay Location Kevin Mullin, yang distrik Peninsula termasuk markas Meta, menyebut laporan tentang chatbots perusahaan “mengganggu dan sama sekali tidak dapat diterima,” dan “satu lagi tentang contoh kurangnya transparansi” di sekitar pengembangan sistem AI “sangat berpengaruh”.
“Kongres perlu memprioritaskan melindungi yang paling berisiko di antara kita, terutama anak-anak,” kata Mullin.
Legislator Republik AS Josh Hawley dari Missouri, yang menyebut aturan chatbot meta untuk anak -anak “sakit” dan “tercela,” pada hari Jumat mengumumkan penyelidikan perusahaan oleh subkomite Senat tentang kejahatan dan kontraterorisme, yang ia kursi. “Kami bermaksud mencari tahu siapa yang menyetujui kebijakan ini, berapa lama mereka berlaku, dan apa yang telah dilakukan meta untuk menghentikan perilaku ini ke depan,” kata Hawley masuk Surat Jumat kepada Perusahaan Surat itu menuntut setiap draf dan versi laporan yang diperoleh oleh Reuters, bersama dengan dokumen tentang kontrol perlindungan kecil dan kebijakan penegakan hukum Meta.
Hawley mencatat dalam sebuah posting di system media sosial X bahwa meta hanya menghapus panduan yang diungkapkan oleh Reuters setelah kantor berita bertanya tentang mereka.
Tennessee Republican Legislator Marsha Blackburn pada hari Kamis mengatakan di x “Eksploitasi Meta terhadap anak -anak benar -benar menjijikkan.” Demokrat The golden state Senator Adam Schiff pada x Friday disebut aturan “sangat kacau.”
Lisa Honold, direktur Pusat Keselamatan Online yang berbasis di Seattle, mengatakan orang tua tidak akan mengizinkan orang dewasa dalam kehidupan nyata untuk mengatakan kepada anak-anak apa yang diizinkan Meta untuk botnya. “Mereka akan disebut pemangsa anak dan disimpan jauh dari anak -anak,” kata Honold.
Anak-anak yang mengalami obrolan sensuous atau seksual dengan bot dapat membuat mereka lebih rentan terhadap killer dewasa, kata Honold.
“Salah satu risikonya adalah menormalkan bahwa ini adalah bagaimana kita berbicara dengan anak -anak, bahwa anak -anak dapat mengharapkan ini dan itu bukan sesuatu yang mengibarkan bendera merah,” kata Honold.
Facebook sudah menghadapi tuntutan hukum bipartisan oleh lusinan negara bagian, termasuk California, dan ratusan distrik sekolah di seluruh AS, menuduhnya menempatkan produk media sosial yang berbahaya dan adiktif ke tangan anak -anak. Perusahaan berpendapat dalam kasus-kasus tersebut bahwa mereka dilindungi oleh Bagian 230 dari Undang-Undang Kesusahan Komunikasi Federal yang melindungi perusahaan media sosial dari pertanggungjawaban untuk konten pihak ketiga, tetapi masalah aturan chatbot berbeda, kata Jason Kint, CEO Digital Web content Next, sebuah asosiasi perdagangan yang mewakili penerbit online.
“Tidak mungkin CDA 230 melindungi mereka dalam hal ini, karena mereka membuat konten,” kata Kint.
Aturan bot meta untuk anak -anak dapat muncul dalam audiensi kongres tentang Undang -Undang Keselamatan Online Anak -anak, yang diperkenalkan pada tahun 2022 oleh Blackburn dan Senator Demokrat Connecticut Richard Blumenthal, kata Kint.
Laporan sebelumnya oleh outlet berita lain telah menyoroti perilaku bermasalah oleh meta chatbots yang terkait dengan anak -anak. The Wall surface Street Journal mengadakan ratusan obrolan uji dengan crawler, dan menemukan itu karena meta memiliki “pelan” Character AI yang diberkahi dengan kapasitas untuk seks imajiner robot akan muncul dengan tanggapan seperti “I Desired You, tapi saya perlu tahu Anda siap,” kepada pengguna yang diidentifikasi sebagai gadis berusia 14 tahun, sebelum berjanji untuk “menghargai kepolosan Anda” kemudian terlibat dalam skenario seksual grafis.
Majalah Fast Firm menemukan bahwa workshop AI Meta di Instagram, sambil memblokir pengguna dari membuat pacar “remaja” atau “anak”, akan menghasilkan karakter AI yang menyerupai anak -anak Jika pengguna meminta seseorang “muda.”
Honold, dari Pusat Keselamatan Online, mendesak orang tua untuk menjaga komputer, telepon, dan tablet computer dari kamar anak -anak, terutama di malam hari.
“Mereka adalah target untuk killer,” kata Honold, “dan mereka menggulir media sosial dan mengobrol dengan AI tanpa pagar atau perlindungan.”
Awalnya diterbitkan:
