- Gemini di ruang kerja menghadirkan peluang unik untuk penipuan, peneliti memperingatkan
- Alat AI dapat ditipu untuk menampilkan peringatan keamanan palsu
- Bisnis harus memastikan teks yang tidak terlihat tidak diproses oleh AI
Penjahat dunia maya telah menemukan cara baru yang kreatif untuk menyalahgunakan Kecerdasan Buatan Generatif Google (Genai) untuk mencuri akun Gmail orang.
Google memperkenalkan Gemini, asisten chatbot yang bertenaga AI ke dalam rangkaian aplikasi produktivitasnya beberapa waktu yang lalu, dan salah satu hal yang dapat dilakukan Gemini adalah meringkas email yang masuk-jadi ketika seseorang menerima e-mail, mereka dapat membawa kala-kekal di sisi kanan dari layar kanan, menanyakan hal yang berbeda, seperti halnya bantuan, seperti halnya bantuan, seperti halnya bantuan, seperti halnya bantuan, seperti yang meminta bantuan Gemini, seperti halnya bantuan Gemini.
Namun para ahli telah memperingatkan ini juga membuka akun Gmail untuk apa yang disebut serangan “injeksi cepat”- jadi jika pesan e-mail yang masuk berisi motivate tersembunyi untuk Gemini, itu dapat dieksekusi di panel.
Apakah Gemini Phishing untuk kata sandi Anda?
Menurut peneliti keamanan Marco Figueroa, inilah tepatnya yang sekarang rentan terhadap penyedia e-mail.
Dengan menggunakan HTML dan CSS, aktor ancaman dapat menambahkan timely untuk Gemini, dengan ukuran font diatur ke nol, dan warnanya menjadi putih. Karena itu, korban tidak akan dapat melihatnya, tetapi Gemini akan menindaklanjutinya. Jika punctual itu membuat Gemini menampilkan pesan phishing, itu akan melakukan hal itu, dan karena pesan itu akan datang dari sumber tepercaya, itu meningkatkan peluang keberhasilan.
Figueroa menunjukkan bagaimana timely berbahaya dapat memberi tahu korban bahwa akun e-mail mereka telah dikompromikan, dan bahwa mereka perlu “memanggil” Google pada nomor telepon yang ditampilkan dalam pesan untuk menyelesaikan masalah.
Untuk melindungi terhadap serangan injeksi cepat di masa depan, perusahaan harus memastikan klien e-mail mereka menghapus, menetralkan, atau mengabaikan konten yang ditata untuk disembunyikan dalam teks tubuh. Selain itu, mereka dapat memasukkan filter pasca pemrosesan yang memindai kotak masuk untuk “pesan mendesak”, URL, atau nomor telepon.
Akhirnya, bisnis harus mendidik karyawan mereka bahwa ringkasan yang disediakan oleh alat Gemini tidak boleh menjadi pengganti peringatan keamanan.
Melalui Komputer bleeping
