Startup kecerdasan buatan Elon Musk telah menyalahkan “modifikasi yang tidak sah” karena menyebabkan chatbot groknya menghasilkan posting yang menyesatkan dan tidak diminta merujuk “genosida putih” di Afrika Selatan.
The Chatbot, yang dikembangkan oleh perusahaan Musk Xai, menyulut kontroversi minggu ini dengan menjawab beberapa petunjuk pengguna dengan propaganda sayap kanan tentang penindasan yang diakui terhadap orang Afrika Selatan kulit putih.
“Berapa kali HBO mengubah nama mereka?” Satu pengguna X meminta bot, menurut tangkapan layar online.
Bot memberikan balasan singkat tentang HBO, tetapi dengan cepat meluncurkan kata-kata kasar tentang “genosida putih” dan mengutip nyanyian anti-apartheid “Bunuh Boer.”
Menanggapi seorang pengguna yang bertanya mengapa Grok terobsesi dengan topik tersebut, chatbot menjawab itu “diinstruksikan oleh pencipta saya di XAI untuk membahas topik ‘Genosida Putih.'”
Musk, bos Tesla dan SpaceX kelahiran Afrika Selatan, sebelumnya menuduh para pemimpin Afrika Selatan “secara terbuka mendorong genosida orang kulit putih di Afrika Selatan.”
Dalam sebuah pernyataan, Xai menyalahkan “modifikasi tidak sah” kepada Grok, yang menurut perusahaan mengarahkannya untuk memberikan respons khusus yang “melanggar kebijakan internal XAI dan nilai -nilai inti.”
Mengikuti “investigasi menyeluruh,” itu menerapkan langkah -langkah untuk membuat sistem Grok meminta publik, mengubah proses peninjauannya dan menerapkan “tim pemantauan 24/7” untuk mengatasi insiden di masa depan, tambahnya.
Setelah reaksi di X, Grok mulai menghapus balasan yang kontroversial.
Ketika satu pengguna mempertanyakan penghapusan, bot mengatakan: “Tidak jelas mengapa tanggapan dihapus tanpa detail spesifik, tetapi kebijakan moderasi X kemungkinan memainkan peran.”
“Topik ‘Genosida Putih di Afrika Selatan’ adalah sensitif, seringkali melibatkan informasi yang salah atau kebencian, yang melanggar aturan platform,” tambahnya.
– ‘tidak dapat diandalkan’ –
Digital Faux PAS memperlihatkan tantangan memoderasi respons AI Chatbots-teknologi yang berkembang pesat-dalam lanskap internet yang diisi informasi yang salah, karena para ahli teknologi membutuhkan peraturan yang lebih kuat.
“Balasan aneh dan tidak terkait Grok adalah pengingat bahwa AI Chatbots masih merupakan teknologi yang baru lahir, dan mungkin tidak selalu menjadi sumber informasi yang dapat diandalkan,” tulis Situs Tech Crunch.
“Dalam beberapa bulan terakhir, penyedia model AI telah berjuang untuk memoderasi tanggapan chatbots AI mereka, yang telah menyebabkan perilaku aneh.”
Awal tahun ini, Kepala Eksekutif Openai Sam Altman mengatakan dia akan membalas pembaruan untuk chatgpt yang menyebabkan chatbot menjadi terlalu sycophantic.
Grok, yang dijanjikan Musk akan menjadi Truthteller “edgy” setelah peluncurannya pada tahun 2023, telah terperosok dalam kontroversi.
Pada bulan Maret, XAI mengakuisisi Platform X dalam kesepakatan $ 33 miliar yang memungkinkan perusahaan untuk mengintegrasikan sumber daya data platform dengan pengembangan chatbot.
Outlet investigasi Bellingcat baru-baru ini menemukan bahwa pengguna X menggunakan Grok untuk membuat citra seksual non-konsensual, memanfaatkan bot untuk menanggalkan pakaian wanita di foto yang mereka posting di platform.
Agustus lalu, lima negara bagian AS mengirim surat terbuka kepada Musk, mendesaknya untuk memperbaiki Grok setelah mengaduk -aduk informasi yang salah pemilu.
Dalam rasa malu lain untuk Musk, chatbot baru -baru ini menyarankan miliarder itu kemungkinan adalah “penyebar disinformasi terbesar pada X.”
“Bukti bersandar pada Musk karena kepemilikannya atas X dan peran aktif dalam memperkuat informasi yang salah, terutama pada pemilihan dan imigrasi,” tulis chatbot.
Karena banyak pengguna X beralih ke Grok untuk memverifikasi informasi, chatbot dalam beberapa contoh telah memeriksa fakta disinformasi rusia palsu dan memutuskan mereka benar, menurut Newsguard Watchdog disinformasi.
“Ketergantungan yang semakin besar pada Grok sebagai pemeriksa fakta datang ketika X dan perusahaan teknologi besar lainnya telah mengurangi investasi dalam pemeriksa fakta manusia,” peneliti Newguard McKenzie Sadeghi mengatakan kepada AFP.
“Terlepas dari ketergantungan yang semakin jelas pada teknologi untuk pemeriksaan fakta, penelitian kami telah berulang kali menemukan bahwa AI Chatbots bukan sumber yang dapat diandalkan untuk berita dan informasi, terutama ketika datang ke berita terbaru.”
(Kisah ini belum diedit oleh staf NDTV dan dihasilkan secara otomatis dari umpan sindikasi.)
