Kami telah melihat kecerdasan buatan memberikan respons yang cukup aneh terhadap pertanyaan ketika chatbot menjadi lebih umum. Saat ini, Reddit Answers menjadi sorotan setelah menjadi moderator ditandai alat AI untuk memberikan nasihat medis berbahaya yang tidak dapat mereka nonaktifkan atau sembunyikan dari pandangan.
Mod tersebut melihat Reddit Answers menyarankan agar orang yang mengalami nyeri kronis berhenti meminum resep mereka saat ini dan mengonsumsi kratom dosis tinggi, yang merupakan zat yang tidak diatur dan ilegal di beberapa negara bagian. Pengguna tersebut mengatakan bahwa mereka kemudian menanyakan Jawaban Reddit tentang pertanyaan medis lainnya. Mereka menerima saran yang berpotensi berbahaya untuk mengobati demam neonatal serta beberapa tindakan akurat serta saran bahwa heroin dapat digunakan untuk menghilangkan rasa sakit kronis. Beberapa mod lain, terutama dari subreddit yang berfokus pada kesehatan, membalas postingan asli dengan menambahkan kekhawatiran mereka bahwa mereka tidak memiliki cara untuk mematikan atau menandai masalah ketika Reddit Answers memberikan informasi yang tidak akurat atau berbahaya di komunitas mereka.
Seorang perwakilan dari Reddit menceritakan 404 Media bahwa Jawaban Reddit telah diperbarui untuk mengatasi beberapa kekhawatiran mod. “Pembaruan ini memastikan bahwa ‘Jawaban Terkait’ terhadap topik sensitif, yang sebelumnya mungkin terlihat di halaman detail postingan (juga dikenal sebagai halaman percakapan), tidak akan ditampilkan lagi,” kata juru bicara tersebut kepada publikasi tersebut. “Perubahan ini diterapkan untuk meningkatkan pengalaman pengguna dan menjaga visibilitas konten yang sesuai dalam platform.” Kami telah menghubungi Reddit untuk mendapatkan komentar tambahan tentang topik apa saja yang dikecualikan, namun saat ini kami belum menerima balasan.
Sementara perwakilannya memberitahu 404 Media bahwa Reddit Answers “mengecualikan konten dari komunitas pribadi, yang dikarantina, dan NSFW, serta beberapa topik dewasa,” alat AI tersebut tampaknya tidak dilengkapi untuk menyampaikan informasi medis dengan baik, apalagi untuk menangani sindiran, sarkasme, atau potensi saran buruk yang mungkin diberikan oleh Redditor lain. Selain dari langkah terbaru untuk tidak muncul di “topik sensitif”, sepertinya Reddit tidak berencana menyediakan alat apa pun untuk mengontrol bagaimana atau kapan AI ditampilkan di subreddit, yang dapat membuat tugas moderasi yang sudah menantang menjadi hampir mustahil.
