Meta telah menghapus video AI palsu yang menampilkan calon presiden Irlandia Catherine Connolly, yang menampilkan gambaran palsu tentang politisi yang mengatakan bahwa dia mundur dari pemilu. Menurut Waktu Irlandiavideo yang dihasilkan AI tersebut dibagikan hampir 30.000 kali di Facebook hanya beberapa hari sebelum pemilu Irlandia pada 24 Oktober sebelum dihapus dari situs web. Connolly menyebut video tersebut sebagai “upaya memalukan untuk menyesatkan pemilih dan melemahkan demokrasi (Irlandia)” dan meyakinkan para pemilih bahwa dia “masih menjadi calon Presiden Irlandia”.
Video tersebut diposting oleh akun yang menamakan dirinya RTÉ News AI, yang tidak berafiliasi dengan lembaga penyiaran layanan publik Irlandia, Raidió Teilifís Éireann. Ini meniru tidak hanya kemiripan dengan Connolly, tetapi juga jurnalis sah RTÉ Sharon Ní Bheoláin dan koresponden Paul Cunningham. “Dengan sangat menyesal saya mengumumkan penarikan pencalonan saya dan berakhirnya kampanye saya,” kata Connolly versi AI dalam video palsu tersebut. Ní Bheoláin diperlihatkan melaporkan tentang pengumuman tersebut dan mengonfirmasi pengunduran diri kandidat dari pencalonan. Cunningham versi AI kemudian mengumumkan bahwa pemilu dibatalkan dan tidak akan diadakan lagi, dengan lawan Connolly, Heather Humphreys, otomatis menang. Connolly, kandidat independen, adalah terkemuka jajak pendapat terbaru dengan 44 poin.
Meta menghapus akun RTÉ News AI sepenuhnya setelah dihubungi oleh Irlandia Merdeka. Perusahaan memberi tahu Waktu Irlandia bahwa mereka menghapus video dan akun tersebut karena melanggar standar komunitas, khususnya kebijakan yang melarang konten yang meniru identitas atau mewakili orang secara salah. Regulator media Irlandia, Coimisiún na Meán, mengatakan pihaknya mengetahui video tersebut dan telah bertanya kepada Meta tentang tindakan segera yang diambil dalam menanggapi insiden tersebut. Meta telah berjuang untuk mengendalikan video palsu dan editan jahat yang menampilkan selebriti dan politisi selama bertahun-tahun. Dewan Pengawas perusahaan memperingatkan mereka awal tahun ini bahwa mereka tidak berbuat cukup banyak untuk menegakkan aturan mereka sendiri dan mendesak mereka untuk melatih peninjau konten tentang “indikator” konten yang dimanipulasi oleh AI.
