“Sederhananya, kekhawatiran utama saya adalah bahwa banyak orang akan mulai percaya pada ilusi AI sebagai entitas sadar begitu kuat sehingga mereka akan segera mengadvokasi hak AI, model kesejahteraan dan bahkan kewarganegaraan AI. Perkembangan ini akan menjadi pergantian yang berbahaya dalam kemajuan AI dan layak mendapat perhatian langsung kami,” tambah kepala Microsoft AI.
Untuk mencegah hal ini, Suleyman telah mendesak industri untuk membangun batasan etis yang kuat. “Kita harus membangun AI untuk orang -orang; bukan untuk menjadi orang digital,” katanya.
Suleyman menekankan bahwa sementara ambisinya adalah menciptakan teman AI yang mendukung dan bermanfaat, ada juga garis yang jelas yang tidak boleh dilintasi. “Saya terpaku untuk membangun pendamping AI yang paling berguna dan mendukung yang bisa dibayangkan. Tetapi untuk berhasil, saya juga perlu berbicara tentang apa yang kita, dan orang lain, tidak boleh membangun.”
Persepsi publik tentang AI sudah bergeser dengan cepat. Penelitian oleh Edubirdie, yang diterbitkan pada bulan April 2025, menemukan bahwa satu dari empat pengguna Gen Z yang disurvei percaya bahwa sistem AI sudah sadar. 52 % lebih lanjut tidak percaya pada kesadaran saat ini tetapi mengatakan mereka berharap AI mengembangkannya di masa depan.
Kepala eksekutif Openai Sam Altman telah menyuarakan keprihatinan serupa tentang ketergantungan emosional pada AI. Dalam sebuah publishing baru -baru ini di X, ia mengatakan Bond People membentuk dengan model “terasa berbeda dan lebih kuat dari jenis keterikatan yang dimiliki orang dengan jenis teknologi sebelumnya.” Altman memperingatkan bahwa sementara sebagian besar pengguna dapat memisahkan permainan peran dari kenyataan, “Jika pengguna berada dalam keadaan psychological yang rapuh dan rentan terhadap khayalan, kami tidak ingin AI memperkuatnya.”
Dia mengakui bahwa banyak orang sekarang menggunakan chatgpt sebagai “terapis atau pelatih kehidupan,” seringkali dengan hasil positif, tetapi memperingatkan terhadap skenario di mana pengguna tanpa sadar mengkompromikan kesejahteraan jangka panjang mereka.
