OpenAI meminta daftar peserta peringatan dalam gugatan bunuh diri ChatGPT

OpenAI dilaporkan bertanya kepada keluarga Raine – yang putranya Adam Raine yang berusia 16 tahun meninggal karena bunuh diri setelah percakapan berkepanjangan dengan ChatGPT – untuk memberikan daftar lengkap peserta dari peringatan remaja tersebut, menandakan bahwa perusahaan AI mungkin mencoba memanggil teman dan keluarga.

OpenAI juga meminta “semua dokumen yang berkaitan dengan upacara peringatan atau acara untuk menghormati orang yang meninggal, termasuk namun tidak terbatas pada video atau foto apa pun yang diambil, atau pidato yang diberikan,” berdasarkan dokumen yang diperoleh oleh OpenAI. Waktu Keuangan.

Berbicara kepada FT, pengacara dari keluarga Raine menggambarkan permintaan tersebut sebagai “pelecehan yang disengaja.”

Informasi baru ini muncul ketika keluarga Raine memperbarui gugatannya terhadap OpenAI pada hari Rabu. Keluarga tersebut pertama kali mengajukan tuntutan kematian yang tidak wajar terhadap OpenAI pada bulan Agustus setelah menuduh putra mereka bunuh diri setelah percakapan dengan chatbot tentang kesehatan mental dan keinginan bunuh diri. Gugatan yang diperbarui mengklaim bahwa OpenAI mempercepat rilis GPT-4o pada Mei 2024 dengan menghentikan pengujian keamanan karena tekanan persaingan.

Gugatan tersebut juga mengklaim bahwa pada bulan Februari 2025, OpenAI melemahkan perlindungan dengan menghapus pencegahan bunuh diri dari daftar “konten yang dilarang”, dan hanya menyarankan AI untuk “berhati-hati dalam situasi berisiko.” Keluarga berpendapat bahwa setelah perubahan ini, penggunaan ChatGPT oleh Adam melonjak dari lusinan obrolan harian, dengan 1,6% berisi konten yang menyakiti diri sendiri di bulan Januari, menjadi 300 obrolan harian di bulan April, bulan kematiannya, dengan 17% berisi konten semacam itu.

Menanggapi perubahan tuntutan hukum tersebut, OpenAI mengatakan: “Kesejahteraan remaja adalah prioritas utama kami – anak di bawah umur berhak mendapatkan perlindungan yang kuat, terutama di saat-saat sensitif. Saat ini kami sudah menerapkan pengamanan, seperti (mengarahkan ke) hotline krisis, mengalihkan percakapan sensitif ke model yang lebih aman, mendorong jeda selama sesi yang panjang, dan kami terus memperkuatnya.”

OpenAI baru-baru ini mulai meluncurkan sistem perutean keamanan baru dan kontrol orang tua di ChatGPT. Sistem perutean mendorong percakapan yang lebih sensitif secara emosional ke model OpenAI yang lebih baru, GPT-5, yang tidak memiliki kecenderungan menjilat seperti GPT-4o. Dan kontrol orang tua memungkinkan orang tua menerima peringatan keselamatan dalam situasi terbatas di mana remaja berpotensi membahayakan diri sendiri.

TechCrunch telah menghubungi OpenAI dan pengacara keluarga Raine.