Jangan percaya semua yang diceritakan Google kepada Anda.
Kalau tidak, Anda bisa akhirnya berpikir bahwa para ilmuwan merekomendasikan makan batu, Snoopy Assassination Abraham Lincoln, pizza lebih baik dengan lem, dan goldendoodle yang dimainkan di NBA.
Ini semua adalah klaim palsu yang disajikan di bagian atas pencarian Google dengan fitur kecerdasan buatan AI ikhtisar.
Alat ini merangkum hasil di bagian atas halaman, dengan banyak pembaca menganggapnya sebagai fakta dan tidak menggali lebih lanjut.
Tetapi para ahli memperingatkan bahwa informasi yang berbahaya dan kurang jelas sedang disebarkan dengan fitur AI Google – membuat perusahaan dan sumber informasi yang salah dalam prosesnya dalam proses tersebut.
“Apakah itu untuk meningkatkan obat natural, suplemen atau sampah, mereka menghasilkan uang,” kata profesor studi informasi Universitas Syracuse Jennifer Stromer-Galley kepada Daily Mail.
“Kami semakin tidak dapat mempercayai informasi apa pun yang masuk ke feed pencarian kami.”
Bahkan setelah bertahun -tahun perbaikan oleh insinyur perangkat lunak terkemuka, hasil AI masih memberikan klaim aneh.
Fitur gambaran Google AI telah mendapat kecaman mengikuti laporan informasi yang salah dan klaim aneh. Di atas pengguna Strings berbagi bahwa mesin pencari mengutip ahli geologi saat merekomendasikan makan ‘satu batu kecil per hari’
CEO Google Sundar Pichai telah mengakui bahwa AI ‘halusinasi’ adalah ‘masalah yang tidak terpecahkan’, tetapi tidak memberikan jadwal untuk menyelesaikannya
Kisah palsu terbaru yang didorong ke atas hasil, dan terlihat oleh Daily Mail akhir pekan ini, adalah klaim bahwa rapper Eminem tampil di pemakaman ibu Jeff Bezos, dan Elon Musk hadir. Informasi itu disajikan sebelum pemakaman bahkan diadakan.
Bulan lalu, The Dallas Express Tinjauan Google melihat yang mengklaim tanpa bukti bahwa Diana Ross ditangkap karena kepemilikan kokain dan pergi ke rehabilitasi pada tahun 1992
Google mengatakan itu mendapatkan ‘sebagian besar’ tanggapan yang benar, dan timnya ‘mengambil tindakan’ ketika mereka menemukan kesalahan.
Beberapa pernyataan yang diragukan oleh AI Google adalah ‘halusinasi’, nama untuk kesalahan dalam fungsinya.
Tetapi situs yang lebih menyeramkan menjajakan berita palsu dan menyapu uang dari iklan dilaporkan bermain game Google sehingga AI memilih mereka untuk ditampilkan secara jelas.
Jurnalis Prancis Jean-Marc Manach telah mengidentifikasi lebih dari 4 000 situs yang mendorong informasi yang salah yang dihasilkan oleh AI, dan sering dipromosikan oleh Google.
Manach melaporkan bahwa lebih dari 100 di antaranya dalam bahasa Inggris, dan dirancang untuk dipilih untuk fitur Discover Google, umpan artikel yang ditempatkan secara jelas di aplikasi Google yang digunakan banyak pembaca untuk mengimbangi urusan saat ini, dan yang melayani konten berdasarkan preferensi pembaca menggunakan AI.
Dalam sebuah wawancara dengan Tekan Lembaran Bulan lalu, dia mengatakan daftar tersangka adalah ‘puncak gunung es’, dan bahwa mengungkap mereka adalah ‘tugas Sisyphean’.
Kueri tentang seekor anjing yang bermain di NBA menghasilkan hasil pencarian yang menegaskan goldendoodle bernama Brodie telah bermain di dunia profesional bola basket bola basket
Bulan lalu, electrical outlet berita melaporkan bahwa ikhtisar AI Google telah menghasilkan klaim palsu bahwa penyanyi Diana Ross ditangkap karena kepemilikan kokain pada tahun 1992
Kisah -kisah palsu dari situs -situs yang ia identifikasi termasuk bahwa uang kertas akan dihapus dari sirkulasi di Prancis pada Oktober 2025, kakek -nenek tidak akan dapat memberikan uang kepada cucu -cucu mereka, dan pemerintah Prancis akan menyerang tabungan secara langsung untuk membiayai perang di Ukraina.
Manach mengatakan situs -situs semacam itu menghasilkan ribuan dolar pemilik per hari dalam pendapatan iklan ‘dengan mendapatkan lalu lintas besar dari orang -orang yang mengklik dari Google Discover, kemudian memukul iklan – yang dijalankan oleh layanan AdSense Google.
Google mengambil potongan pendapatan iklan melalui AdSense, yang berarti lalu lintas ke situs berita palsu juga membuat jutaan perusahaan raksasa.
A 2021 Studi Sekolah Informasi Universitas Michigan Menemukan 48 % dari semua lalu lintas iklan pada sampel 786 situs berita ‘palsu’ dilayani oleh Google.
Para peneliti menyimpulkan Google adalah ‘mesin keuangan untuk berita palsu’.
Kisah-kisah palsu di situs-situs ini termasuk ‘para ilmuwan mengatakan suatu suku kera di Afrika Barat hampir mengembangkan net mereka sendiri’ dan ‘McConnell untuk mensponsori bersama RUU yang bertujuan membatasi hak suara untuk pemilik tanah’, merujuk pada Senator Kentucky Mitch McConnell.
The Brink Dilaporkan pada Agustus 2022 contoh AI Google yang terlalu bersemangat untuk secara keliru mengkonfirmasi pertanyaan pengguna.
Ketika ditanya ‘Kapan Snoopy membunuh Abraham Lincoln’, Google memberikan hasilnya’ 1865, tetapi tidak menunjukkan bahwa Snoopy adalah karakter kartun daripada seorang presiden-pembunuh.
Beberapa berita yang mencurigakan yang dipromosikan oleh fitur-fitur yang bertenaga AI Google telah mencakup publicity Cina.
Hingga November tahun lalu, sekelompok perusahaan yang terhubung dengan Cina memunculkan lebih dari 600 situs internet yang mendorong ribuan artikel berita di lusinan negara, dipenuhi dengan ‘narasi yang selaras dengan kepentingan politik Republik Rakyat Tiongkok,’ Google mengumumkan di a laporan
Alat AI menyajikan hasil dari sumber -sumber palsu yang mengklaim Elon Musk menghadiri pemakaman untuk ibu Jeff Bezos, gambar yang dihasilkan AI muncul secara online yang menunjukkan bezo yang menghibur Elon Musk – sebelum upacara bahkan terjadi
Hasil pencarian yang dihasilkan pada 21 Agustus dengan salah mengklaim pemakaman itu terjadi sehari setelah kematiannya dan melaporkan penampilan oleh Musk dan rapper Eminem, ‘yang dilaporkan memberikan upeti yang bergerak’
Dikatakan perusahaan -perusahaan itu bekerja bersama dalam jaringan yang disebut Glassbridge, dengan halaman internet yang ‘berpose sebagai situs web berita independen’ tetapi sebaliknya menciptakan publicity.
Beberapa dari kisah -kisah itu berhasil masuk ke fitur Discover Google, umpan artikel yang ditampilkan secara menonjol di aplikasi Google yang digunakan banyak pembaca untuk mengimbangi urusan saat ini, dan yang melayani konten berdasarkan preferensi pembaca menggunakan AI.
Setelah menemukan jaringan, Google’s Ancaman Intelijen Grup memblokirnya dari peringkatnya.
“Kami telah mengamati perilaku serupa dari Rusia dan Iran (operator),” kata analis ancaman elderly Vanessa Molter kepada Forbes pada tahun 2024
Perusahaan mengatakan telah memblokir lebih dari 1 000 situs dari Google Information dan Google Discover sejak 2022
Profesor Stromer-Galley mengatakan kepada Daily Mail: ‘Penelitian tentang pencarian Google adalah bahwa hal itu memengaruhi persepsi orang dan sikap mereka.
‘Umumnya orang merasa bahwa informasinya netral, dan jika ditunjukkan oleh Google itu valid.
‘Itu kemudian memperburuk masalah orang mempercayai dan mengambil informasi di sana, apakah itu ada di feed berita Google atau hasil pencarian mereka.
Oversight AI lainnya menjadi viral setelah pengguna X menunjukkan bahwa Google menyarankan menambahkan lem yang tidak beracun untuk mendapatkan keju untuk tetap berpegang pada pizza, mengutip pos reddit 2013
“Jadi tidak mengejutkan saya sama sekali bahwa akan ada upaya untuk bermain AI.”
Teori konspirasi politik juga telah didorong oleh ikhtisar AI Google.
Ilmuwan komputer Mel Mitchell kecewa ketika dia melihat ikhtisar secara keliru mengklaim Obama adalah ‘presiden Muslim’ pada Mei tahun lalu.
‘Mengingat betapa tidak dapat dipercaya itu, saya pikir fitur ikhtisar AI ini sangat tidak bertanggung jawab dan harus diambil secara offline,’ katanya kepada Associated Press
Ikhtisar memberi tahu pengguna lain, Peter Baylies, bahwa hanya ada enam presiden kulit putih, ia berbagi X
Ikhtisar Google AI terkadang bingung bahkan dengan facts atau lelucon sederhana.
Pencarian oleh Daily Mail pada hari Jumat untuk ‘pulau terbesar di Mediterania’ yang dikembalikan Kreta, yang sebenarnya berada di posisi kelima.
Dan ketika situs satire Onion memasang cerita lelucon yang mengatakan seorang ahli geologi UC Berkeley merekomendasikan makan satu batu kecil sehari, gambaran umum Google menyajikannya kepada para pencari sebagai nyata.
Ilmuwan komputer Mel Mitchell membagikan kekecewaannya pada Mei tahun lalu ketika dia melihat ikhtisar secara keliru mengklaim Obama adalah ‘Presiden Muslim pertama Amerika’
Pada X, pengguna Peter Baylies berbagi bahwa ikhtisar AI Google mengklaim hanya ada enam presiden AS putih – anehnya semuanya bernama James
Google membuat kesepakatan tahun lalu untuk menambang data Reddit online forum online sebesar $ 60 juta per tahun.
Tapi AI mereka berpotensi melanggar pepatah ‘sampah masuk, sampah keluar’.
Satu pengguna reddit, ‘f ** ksmith’, diposting dengan lucu 12 tahun yang lalu merekomendasikan lem pada pizza untuk membuat tongkat keju.
Pencari kemudian melihat Mei lalu bahwa gambaran Google dengan ceria memberi tahu orang-orang di Googling tentang resep pizza: ‘Anda juga dapat menambahkan sekitar 1/ 8 cangkir lem yang tidak beracun ke saus untuk memberikan lebih banyak kelemahan.’
Bahaya kesehatan potensial yang lebih serius terlihat oleh pengguna Google Application yang melihat artikel berita medis palsu yang disajikan kepada mereka oleh Google Discover bertenaga AI, merekomendasikan mereka ‘berhenti membuang-buang uang untuk insulin’ dan mengambil ‘obat natural yang membalikkan diabetes tipe2
Profesor Stromer-Galley mengatakan bahwa penelitian menunjukkan pembaca hanya membaca ringkasan yang diumpankan kepada mereka oleh AI, tidak mengklik tautan sumber dan menilai keandalan mereka-atau memberikan pendapatan iklan ke sumber informasi nyata seperti situs berita terkemuka.
A Pusat Penelitian Church Bench Analisis 68 879 pencarian Google oleh 900 orang pada bulan Maret 2025 menemukan 15 % diklik pada hasil ketika tidak ada ringkasan AI di bagian atas halaman. Hanya 8 % yang dilakukan ketika ringkasan AI disediakan.
“Google sebenarnya menyakiti pelanggannya sendiri melalui AI-nya,” kata Stromer-Galley.
“Saya benar-benar sangat khawatir tentang lingkungan informasi yang berubah sekarang dengan pencarian yang dihasilkan AI.”
Dalam sebuah wawancara dengan Edge bulan itu, CEO Google Sundar Pichai mengatakan AI ‘halusinasi’ adalah ‘masalah yang tidak terpecahkan’, dan tidak memberikan jadwal yang pasti untuk menyelesaikannya.
