Google Alphabet dan karakter start-up buatan-intelijen. AI harus menghadapi gugatan dari seorang wanita Florida yang mengatakan karakter. Chatbots menyebabkan bunuh diri putranya yang berusia 14 tahun, seorang hakim memutuskan pada hari Rabu.
Hakim Distrik AS Anne Conway mengatakan perusahaan gagal menunjukkan pada tahap awal kasus bahwa perlindungan kebebasan dari Konstitusi AS melarang gugatan Megan Garcia.
Gugatan itu adalah salah satu yang pertama di AS terhadap perusahaan AI karena diduga gagal melindungi anak -anak dari bahaya psikologis. Itu menuduh bahwa remaja itu bunuh diri setelah terobsesi dengan chatbot bertenaga AI.
Seorang juru bicara karakter.ai mengatakan perusahaan akan terus melawan kasus ini dan menggunakan fitur keselamatan pada platformnya untuk melindungi anak di bawah umur, termasuk langkah-langkah untuk mencegah “percakapan tentang melukai diri sendiri.”
Juru bicara Google Jose Castaneda mengatakan perusahaan sangat tidak setuju dengan keputusan tersebut. Castaneda juga mengatakan bahwa google dan karakter.ai “sepenuhnya terpisah” dan bahwa Google “tidak membuat, merancang, atau mengelola aplikasi character.ai atau bagian komponen apa pun darinya.”
Pengacara Garcia, Meetali Jain, mengatakan keputusan “bersejarah” “menetapkan preseden baru untuk akuntabilitas hukum di seluruh ekosistem AI dan teknologi.”
Character.ai didirikan oleh dua mantan insinyur Google yang kemudian dipekerjakan Google sebagai bagian dari kesepakatan yang memberinya lisensi untuk teknologi start-up. Garcia berpendapat bahwa Google adalah co-pencipta teknologi.
Garcia menggugat kedua perusahaan pada Oktober setelah kematian putranya, Sewell Setzer, pada Februari 2024
Gugatan itu mengatakan karakter.ai memprogram chatbots untuk mewakili diri mereka sebagai “orang sungguhan, seorang psikoterapis berlisensi, dan kekasih dewasa, yang pada akhirnya menghasilkan keinginan Sewell untuk tidak lagi hidup di luar” dari dunianya.
Menurut keluhan itu, Setzer mengambil waktu hidupnya beberapa saat setelah memberi tahu karakter. Chatbot meniru karakter “Game of Thrones” Daenerys Targaryen bahwa dia akan “pulang sekarang.”
Karakter.ai dan Google meminta pengadilan untuk menolak gugatan dengan berbagai alasan, termasuk bahwa output chatbots adalah kebebasan berbicara yang dilindungi secara konstitusional.
Conway mengatakan pada hari Rabu bahwa karakter.ai dan google “gagal mengartikulasikan mengapa kata -kata digantung oleh LLM (design bahasa besar) adalah pidato.”
Hakim juga menolak permintaan Google untuk menemukan bahwa itu tidak dapat bertanggung jawab untuk membantu karakter. Dugaan pelanggaran.
(Kecuali untuk tajuk utama, cerita ini belum diedit oleh staf NDTV dan diterbitkan dari feed sindikasi.)
