Orang -orang yang tidak dikenal telah mencuri gambar telanjang dan video clip seks dari awan pribadi wanita Jerman dan mengunggahnya ke situs porno. Yang lebih buruk adalah bahwa konten dapat ditemukan melalui pencarian Google sederhana dari nama wanita itu karena ID -nya juga telah dicuri dari cloud.
Wanita itu beralih ke Hateaid, sebuah nirlaba Jerman yang memberikan dukungan bagi orang-orang yang terkena dampak kebencian online dan kekerasan digital. Dengan bantuan organisasi, ia menghubungi banyak situs yang terlibat dan melaporkan lebih dari 2 000 Link yang dapat ditemukan melalui pencarian gambar Google. Meskipun Google biasanya menghapus konten seperti itu, gambar dan video terus muncul kembali secara online dan dalam hasil pencarian, seperti halnya Deepfake, yang dihasilkan dan dimanipulasi oleh Kecerdasan Buatan (AI).
Kasus ini telah mengajukan sejumlah pertanyaan penting: Seberapa luas perlindungan data online? Apa skenario terburuk, terutama bagi wanita dan mereka yang dianggap perempuan? Apa yang bisa dilakukan?
Pelanggaran privasi ‘mirip dengan pemerkosaan’
Wanita itu, yang ingin tetap anonim dan disebut sebagai Laura di situs Hateaid, mengetahui secara kebetulan bahwa datanya telah dicuri ketika suatu hari dia memutuskan untuk mencari namanya sendiri secara online. Dia memberi tahu majalah mingguan Jerman Cermin Bahwa menemukan gambar dan video clip intim tentang dirinya secara online, tidak ada yang pernah dimaksudkan untuk dipublikasikan, terasa mirip dengan diperkosa. Hidupnya telah berubah sepenuhnya. Dia telah pindah rumah, berganti pekerjaan dan sekarang menderita gangguan stres pasca-trauma.
Setelah gagal mendapatkan Google untuk menghapus konten dari hasil pencariannya di luar pengadilan, dia sekarang telah menggugat perusahaan di Irlandia, di mana ia memiliki kantor pusat Eropa.
Hateaid mendukungnya dalam upaya ini. “Kami menanggung semua biaya dan risiko biaya di masa depan dalam kasus ini, karena sangat sedikit orang yang terkena dampak (menurut kasus seperti itu) benar -benar dapat membayangkan mengambil risiko menuntut perusahaan seperti Google,” kata chief executive officer Aid Benci Josephine Ballon kepada DW. Dia menambahkan bahwa dia berharap akan ada putusan tengara yang akan mengklarifikasi apakah mesin pencari secara hukum berkewajiban untuk secara permanen menghapus gambar dari hasil pencarian setelah mereka dilaporkan, bahkan jika mereka diunggah ulang di tempat lain.
Bagaimana Google bisa dipaksa untuk melindungi data?
11 tahun yang lalu, Pengadilan Kehakiman Eropa membuat sejarah perlindungan data dengan keputusannya tentang ‘Hak untuk dilupakan,'” pakar perlindungan data dan ilmuwan komputer Marit Hansen mengatakan kepada DW. “Kasus saat ini bertujuan untuk membangunnya.”
Hak untuk dilupakan memungkinkan seseorang untuk meminta penghapusan Information pribadi mereka jika kondisi tertentu berlaku.
Hansen, Komisaris Perlindungan Information untuk Negara Bagian Jerman Schleswig-Holstein, mengatakan masuk akal bahwa, sesuai dengan Peraturan Perlindungan information Umum UE (GDPR) dan hak mendasar untuk perlindungan data, penggunaan worldwide mereka sendiri harus tetap dapat dikelola.
“Tidak mengherankan bahwa kewajiban untuk penyedia mesin pencari bit akan muncul. Namun, sejauh mana kewajiban ini sehubungan dengan gambar sekarang harus digambarkan.”
Ditanya apakah secara teknis dimungkinkan untuk menyaring hasil tertentu, Hansen mengatakan ini relatif mudah mengenai salinan yang tepat, di mana semua data dalam information gambar cocok. Apa yang lebih rumit, jelasnya, adalah ketika datang ke konten yang mengandung penyimpangan dari aslinya, misalnya, karena penanaman atau perubahan yang dibuat dengan bantuan AI.
“Masalah ini terkait dengan kemungkinan yang ditawarkan oleh pencarian gambar terbalik, yang disediakan oleh berbagai perusahaan, termasuk Google,” katanya. Pencarian gambar terbalik melibatkan pengunggahan gambar, dan meminta mesin pencari untuk mencari gambar yang serupa. Ini tidak 100 % dapat diandalkan, dan sering memberikan hasil yang salah.
Hansen menjelaskan bahwa penyedia mesin pencari dapat menggunakan ini untuk berpendapat bahwa akurasi teknis untuk memfilter gambar yang identik belum cukup tinggi. Tetapi dia mengatakan bahwa pada prinsipnya, Google dan yang lainnya harus dimintai pertanggungjawaban. Google tidak menanggapi permintaan oleh DW untuk menjawab pertanyaan tentang kasus saat ini.
Telanjang kami adalah #NotYourBusiness
Hateaid melihat kasus Laura tidak hanya sebagai contoh masalah yang berkaitan dengan perlindungan internet dan masalah privasi di video, tetapi juga kekerasan seksual berbasis gambar terhadap perempuan dan mereka yang dianggap sebagai perempuan. Dan juga dari keuntungan yang dihasilkan perusahaan seperti Google. Karena “mesin pencari membuat konten dapat diakses oleh audiens yang luas dan keuntungan dari klik yang dihasilkan,” kata Ballon.
Hateaid menyertai gugatannya dengan kampanye: telanjang kami adalah #NotYourBusiness. “Wanita dan orang yang dianggap sebagai wanita sangat dipengaruhi oleh penyalahgunaan gambar intim, atau gambar dan video palsu yang dibuat menggunakan AI. Hari -hari ini, yang benar -benar Anda butuhkan hanyalah gambar profil LinkedIn. Ini adalah masalah yang mempengaruhi masyarakat secara keseluruhan, dan itu berkembang, seperti yang kami lihat dari layanan konseling kami untuk para korban,” kata Ballon.
Tidak hanya selebriti seperti Taylor Swift yang berisiko
Banyak orang mungkin mengaitkan kekerasan seksual berbasis gambar dengan selebriti. Pada tahun 2014, ratusan foto telanjang dari sebagian besar selebriti wanita bocor setelah serangan peretasan besar yang kemudian dikenal sebagai “Celebgate.” Penyanyi AS Taylor Swift dan Perdana Menteri Italia Georgia meloni hanyalah dua dari banyak wanita yang telah menjadi korban manual Deepfake.
Tetapi kasus Laura menunjukkan bahwa serangan seperti itu juga dapat menargetkan orang -orang yang tidak berada di mata publik.
Gagasan kasus bantuan kebencian adalah untuk memaksa Google memberikan perlindungan yang lebih baik bagi para korban serangan semacam itu, serta membuat penciptaan Deepfakes sebagai pelanggaran pidana jika seseorang yang digambarkan tidak memberikan persetujuan mereka.
“Tanpa ini, mereka yang terkena dampak harus mencari gambar seumur hidup mereka dan mengirimkan permintaan penghapusan handbook,” kata Ballon. “Ini adalah beban psikologis yang luar biasa yang seharusnya tidak ada dan tidak harus ada.”
Artikel ini awalnya diterbitkan dalam bahasa Jerman.
