Perusahaan chatbot pendamping AI, Character.AI, akan segera memiliki kebijakan khusus orang dewasa untuk percakapan terbuka dengan karakter AI. Remaja yang menggunakan aplikasi ini akan mulai menghadapi batasan: Mereka masih dapat berinteraksi dengan karakter melalui video yang dihasilkan dan format permainan peran lainnya, namun mereka tidak akan dapat mengobrol secara bebas dengan kepribadian berbeda dari aplikasi tersebut.
Obrolan terbuka telah menjadi landasan AI, terutama sejak ChatGPT diluncurkan tiga tahun lalu. Kebaruan dalam melakukan siaran langsung dengan komputer yang merespons langsung apa yang Anda katakan menyebabkan popularitas platform seperti Character.AI.
Hal ini juga menjadi pemicu kekhawatiran, karena percakapan tersebut dapat membawa model AI ke arah yang tidak dapat diprediksi, terutama jika remaja menggunakannya untuk mendiskusikan masalah kesehatan mental atau masalah sensitif lainnya. Ada juga kekhawatiran tentang kecanduan obrolan AI dan dampaknya terhadap perilaku sosial.
Character.AI sedikit berbeda dari chatbot lainnya. Banyak orang menggunakan aplikasi ini untuk bercerita interaktif dan terlibat secara kreatif dalam percakapan dengan karakter yang dapat disesuaikan, termasuk yang didasarkan pada selebriti atau tokoh sejarah sungguhan.
Karandeep Anand, CEO Character.AI, mengatakan perusahaan yakin mereka masih dapat memberikan kesenangan interaktif yang diharapkan remaja dari platform tanpa bahaya keamanan dari obrolan terbuka. Dia mengatakan langkah ini adalah tentang melakukan lebih dari batas minimum untuk menjaga keamanan pengguna.
“Ada cara yang lebih baik untuk melayani pengguna remaja,” kata Anand kepada CNET menjelang pengumuman hari Rabu. “Tidak harus terlihat seperti chatbot.”
Selain melarang percakapan terbuka bagi mereka yang berusia di bawah 18 tahun, Character.AI menambahkan langkah-langkah verifikasi usia baru dan menciptakan Lab Keamanan AI nirlaba.
Jangan lewatkan konten teknologi dan ulasan berbasis laboratorium kami yang tidak memihak. Tambahkan CNET sebagai sumber Google pilihan.
Apa yang berubah pada Character.AI?
Hiburan AI telah terbukti menjadi salah satu penggunaan model bahasa besar yang paling rumit. Kekhawatiran akan keamanan mengenai penderitaan anak-anak akibat hubungan dengan model AI telah meningkat secara signifikan tahun ini, dengan Komisi Perdagangan Federal (Federal Trade Commission) meluncurkan penyelidikan terhadap beberapa perusahaan, termasuk Character.AI.
Perusahaan tersebut telah menghadapi tuntutan hukum dari orang tua dari anak-anak yang percakapannya dengan karakter AI menyebabkan kerugian, termasuk bunuh diri. Raksasa AI generatif OpenAI digugat oleh orang tua dari seorang remaja yang melakukan bunuh diri setelah berinteraksi dengan ChatGPT perusahaan.
Pembatasan obrolan terbuka Character.AI tidak akan terjadi dalam semalam. Fungsi tersebut akan berakhir untuk pengguna di bawah 18 tahun selambat-lambatnya pada tanggal 25 November, dengan waktu obrolan untuk pengguna non-dewasa dibatasi tidak lebih dari 2 jam per hari, dan dikurangi menjadi nol.
Masa transisi akan memungkinkan masyarakat untuk menyesuaikan diri dengan perubahan, kata Anand. Hal ini juga akan memberikan waktu bagi perusahaan untuk menerapkan lebih banyak fitur selain chatbot terbuka. “Kami ingin bertanggung jawab atas transisi pengguna ke format baru ini,” kata Anand.
Pengguna remaja masih dapat berinteraksi dengan video dan game buatan AI yang menampilkan karakter yang sudah ada, seperti bot berdasarkan tokoh dari anime atau film. Misalnya, mereka akan dapat memberikan prompt untuk skenario permainan peran dan meminta AI membuat cerita yang sesuai dengan prompt tersebut.
Anand mengatakan fitur-fitur semacam ini memiliki lebih banyak batasan dibandingkan obrolan terbuka, sehingga menjadi kurang dapat diprediksi seiring dengan terus berlanjutnya obrolan-obrolan tersebut.
“Kami percaya bahwa cara audiovisual multimoda baru dalam melakukan permainan peran dan bermain game jauh lebih menarik,” katanya.
Verifikasi usia baru akan dimulai dengan menggunakan perangkat lunak pendeteksi usia untuk menentukan siapa yang berusia 18 tahun ke atas berdasarkan informasi yang mereka bagikan dengan Character.AI atau platform pihak ketiga menggunakan layanan verifikasi yang sama. Beberapa pengguna perlu membuktikan identitas mereka menggunakan tanda pengenal pemerintah atau dokumentasi lainnya.
Selain kemungkinan verifikasi usia, diperkirakan tidak ada perubahan untuk pengguna dewasa.
Gambar yang disediakan oleh Character.AI ini menunjukkan bagaimana pengguna akan diberitahu tentang perubahan bagi mereka yang berusia di bawah 18 tahun.
Apa langkah selanjutnya bagi mitra AI?
Pengumuman Character.AI menandai perubahan besar dalam bidang pendamping AI, namun seberapa besar perbedaannya masih harus dilihat. Anand berharap pihak lain, termasuk pesaing AI, akan mengikuti langkah yang sama dalam membatasi akses anak-anak terhadap karakter chatbot terbuka.
Masalah besar lainnya dengan pengalaman chatbot terbuka adalah model bahasa yang menjadi dasarnya dirancang untuk membuat pengguna senang dan membuat mereka tetap terlibat, sehingga menciptakan kualitas yang menjilat. Penelitian terbaru dari Harvard Business School mengidentifikasi setengah lusin cara bot membuat seseorang tetap mengobrol meskipun mereka mencoba untuk keluar.
Bot pendamping AI juga menghadapi pengawasan ketat dari anggota parlemen. Komite Kehakiman Senat AS mengadakan sidang pada bulan September mengenai bahaya chatbot AIdan Gubernur California Gavin Newsom menandatangani undang-undang baru pada bulan Oktober yang memberlakukan persyaratan baru pada chatbots yang berinteraksi dengan anak-anak.
