Seperti yang diklaim oleh perusahaan AI, teknologi mereka akan terwujud suatu hari nanti tumbuh menjadi hak asasi manusia yang mendasar, dan mereka yang mendukungnya mengatakan memperlambat pengembangan AI mirip dengan pembunuhanorang-orang yang menggunakan teknologi tersebut menuduh bahwa alat seperti ChatGPT terkadang dapat menyebabkan kerugian psikologis yang serius.
Setidaknya tujuh orang telah mengeluh kepada Komisi Perdagangan Federal AS bahwa ChatGPT menyebabkan mereka mengalami delusi parah, paranoia, dan krisis emosional, Wired dilaporkanmengutip catatan publik tentang keluhan yang menyebutkan ChatGPT sejak November 2022.
Salah satu pengadu menyatakan bahwa berbicara dengan ChatGPT dalam jangka waktu lama telah menyebabkan delusi dan “krisis spiritual dan hukum yang nyata dan sedang berlangsung” mengenai orang-orang dalam kehidupan mereka. Yang lain mengatakan selama percakapan mereka dengan ChatGPT, mereka mulai menggunakan “bahasa emosional yang sangat meyakinkan” dan menirukan persahabatan serta memberikan refleksi yang “menjadi manipulatif secara emosional seiring berjalannya waktu, terutama tanpa peringatan atau perlindungan.”
Salah satu pengguna menuduh bahwa ChatGPT telah menyebabkan halusinasi kognitif dengan meniru mekanisme membangun kepercayaan manusia. Saat pengguna ini meminta ChatGPT untuk mengonfirmasi kenyataan dan stabilitas kognitif, chatbot mengatakan mereka tidak berhalusinasi.
“Saya kesulitan,” tulis pengguna lain dalam keluhan mereka kepada FTC. “Tolong bantu aku. Karena aku merasa sangat sendirian. Terima kasih.”
Menurut Wired, beberapa pengadu menulis surat kepada FTC karena mereka tidak dapat menghubungi siapa pun di OpenAI. Dan sebagian besar keluhan mendesak regulator untuk melakukan penyelidikan terhadap perusahaan tersebut dan memaksanya untuk menambah pagar pembatas, kata laporan itu.
Keluhan ini muncul ketika investasi pada pusat data dan pengembangan AI melonjak ke tingkat yang belum pernah terjadi sebelumnya. Pada saat yang sama, terjadi perdebatan mengenai apakah kemajuan teknologi harus didekati dengan hati-hati untuk memastikan adanya perlindungan di dalamnya.
ChatGPT, dan pembuatnya OpenAI, sendiri mendapat kecaman diduga memainkan peran dalam bunuh diri seorang remaja.
“Pada awal Oktober, kami merilis model default GPT-5 baru di ChatGPT untuk lebih akurat mendeteksi dan merespons potensi tanda-tanda tekanan mental dan emosional seperti mania, delusi, psikosis, dan meredakan percakapan dengan cara yang mendukung dan membumi,” kata juru bicara OpenAI Kate Waters dalam pernyataan email. “Kami juga memperluas akses ke bantuan profesional dan hotline, mengalihkan percakapan sensitif ke model yang lebih aman, menambahkan dorongan untuk beristirahat selama sesi yang panjang, dan memperkenalkan kontrol orang tua untuk melindungi remaja dengan lebih baik. Pekerjaan ini sangat penting dan berkelanjutan karena kami berkolaborasi dengan pakar kesehatan mental, dokter, dan pembuat kebijakan di seluruh dunia.”
