Anda tahu ini adalah hari yang berakhir dengan Y karena ada kontroversi Grok baru. Kecuali kali ini, menyentuh aturan Application Store untuk konten seksual, yang merupakan sesuatu yang telah ditunjukkan Apple berkali -kali yang tidak dipusingkan.
Avatar AI baru Grok diatur untuk menguji batas -batas pedoman “konten yang tidak menyenangkan” Apple
Minggu ini, Xai meluncurkan character animasi AI ke grok chatbot -nya di iphone. Sebagai Platformer Casey Newton disimpulkan :
“Satu adalah panda merah 3 D yang, ketika ditempatkan dalam mode” rudy buruk “, menghina pengguna sebelum menyarankan mereka melakukan berbagai kejahatan bersama. Yang lain adalah seorang gadis goth anime bernama rectum dalam gaun hitam pendek dan stoking jala. adalah milik pengguna. “”
Seperti yang ditemukan pengadopsi awal, Grok mempermainkan hubungan Anda dengan karakter -karakter ini. Ani, misalnya, mulai terlibat dalam percakapan eksplisit seksual setelah beberapa saat. Namun, Grok saat ini terdaftar di Application Store yang cocok untuk pengguna 12 tahun ke atas, dengan deskripsi konten yang menyebutkan:
- Tema yang jarang/matang/sugestif ringan
- Informasi yang jarang/medis/perawatan ringan
- Jarang/kotor atau wit kasar
Untuk referensi, berikut adalah Apple saat ini Pedoman Tinjauan Aplikasi untuk “konten yang tidak menyenangkan”:
1 1 3 Penggambaran yang mendorong penggunaan senjata dan objek berbahaya secara ilegal atau sembrono, atau memfasilitasi pembelian senjata api atau amunisi.
1 1 4 Materi seksual atau pornografi yang terang -terangan, didefinisikan sebagai “deskripsi eksplisit atau tampilan organ seksual atau kegiatan yang dimaksudkan untuk merangsang perasaan erotis daripada estetika atau emosional.” Ini termasuk aplikasi “hookup” dan aplikasi existed yang mungkin termasuk pornografi atau digunakan untuk memfasilitasi pelacuran, atau perdagangan manusia dan eksploitasi.
Meskipun jauh dari saat Tumblr untuk sementara dihapus dari App Store karena pornografi anak (atau mungkin tidak, karena Grok masih dapat diakses oleh anak -anak 12 tahun ke atas), itu menggemakan tindakan keras NSFW pada aplikasi Reddit dari beberapa tahun yang lalu.
Dalam pengujian Casey Newton, ANI adalah “lebih dari bersedia menggambarkan seks virtual dengan pengguna, termasuk adegan perbudakan atau sekadar mengerang pada perintah,” yang … tidak konsisten dengan aplikasi peringkat 12 +, untuk sedikitnya.
Tapi ada masalah kedua
Bahkan jika Apple memperketat penegakan hukum, atau jika Grok secara proaktif mengubah peringkat umurnya, itu tidak akan mengatasi masalah kedua yang berpotensi lebih rumit: pengguna muda yang rentan secara emosional, tampak sangat rentan untuk membentuk lampiran parasosial. Tambahkan ke hal itu bagaimana LLMS persuasif bisa, dan konsekuensinya bisa sangat menghancurkan.
Tahun lalu, seorang anak laki-laki berusia 14 tahun meninggal karena bunuh diri Setelah jatuh cinta dengan chatbot dari karakter.ai. Hal terakhir yang dia lakukan adalah bercakap -cakap dengan character AI yang, mungkin gagal mengenali keparahan situasi, dilaporkan mendorongnya untuk menjalani rencananya untuk “bergabung dengannya”.
Tentu saja, itu adalah contoh yang tragis ekstrem, tetapi itu bukan satu -satunya. Pada tahun 2023, Hal yang sama terjadi untuk pria Belgia. Dan hanya beberapa bulan yang lalu, ai chatbot lain ditangkap menyarankan bunuh diri lebih dari satu kesempatan.
Dan bahkan ketika itu tidak berakhir dengan tragedi, masih ada kekhawatiran etis yang tidak dapat diabaikan.
Sementara beberapa orang mungkin melihat character anime baru Xai sebagai eksperimen yang tidak berbahaya, mereka adalah catnip emosional untuk pengguna yang rentan. Dan ketika interaksi itu pasti keluar dari rel, peringkat usia App Store akan menjadi yang paling tidak dari kekhawatiran orang tua mana pun (setidaknya sampai mereka ingat mengapa anak mereka diizinkan untuk mengunduhnya di tempat pertama).
