Jessica Guistolise, Megan Hurley dan Molly Kelley berbicara dengan CNBC di Minneapolis, Minnesota, pada 11 Juli 2025, tentang gambar dan video clip pornografi palsu yang menggambarkan wajah mereka yang dibuat oleh teman bersama Ben menggunakan situs AI Deepswap.
Jordan Wyatt|CNBC
Pada musim panas 2024, sekelompok wanita di daerah Minneapolis mengetahui bahwa seorang teman pria menggunakan foto Facebook mereka yang dicampur dengan kecerdasan buatan untuk membuat gambar dan video seksual.
Menggunakan situs AI bernama Deepswap, pria itu diam -diam menciptakan Deepfakes dari teman -teman dan lebih dari 80 wanita di wilayah Kota Kembar. Penemuan ini menciptakan injury emosional dan mengarahkan kelompok itu untuk mencari bantuan senator negara yang simpatik.
Seperti yang ditunjukkan oleh investigasi CNBC, munculnya aplikasi dan situs “nudify” telah membuatnya lebih mudah dari sebelumnya bagi orang untuk membuat non -konsensual, Deepfake eksplisit. Para ahli mengatakan layanan ini ada di seluruh web, dengan banyak yang dipromosikan melalui iklan Facebook, tersedia untuk diunduh di toko Apple dan Google App dan dengan mudah diakses menggunakan pencarian web sederhana.
“Itulah kenyataan di mana teknologi itu sekarang, dan itu berarti bahwa siapa word play here dapat benar -benar menjadi korban,” kata Haley McNamara, wakil presiden senior inisiatif dan program strategis di Pusat Nasional tentang Eksploitasi Seksual.
Pelaporan CNBC menyoroti rawa hukum di sekitar AI, dan bagaimana sekelompok teman menjadi tokoh kunci dalam perang melawan porno yang tidak konsensual, yang dihasilkan AI.
Berikut adalah lima takeaways dari investigasi.
Para wanita tidak memiliki jalan hukum
Karena para wanita tidak di bawah umur dan pria yang menciptakan Deepfake tidak pernah membagikan konten, tidak ada kejahatan yang jelas.
“Dia tidak melanggar hukum apa word play here yang kita ketahui,” kata Molly Kelley, salah satu korban Minnesota dan seorang mahasiswa hukum. “Dan itu bermasalah.”
Sekarang, Kelley dan para wanita mengadvokasi RUU lokal di negara bagian mereka, yang diusulkan oleh Legislator Negara Demokrat Erin Maye Quade, yang dimaksudkan untuk memblokir layanan nudifikasi di Minnesota. Jika RUU itu menjadi undang -undang, itu akan memungut denda pada entitas yang memungkinkan penciptaan Deepfake.
Maye Quade mengatakan RUU itu mengingatkan pada undang -undang yang melarang mengintip ke jendela untuk mengambil foto eksplisit tanpa persetujuan.
“Kami hanya belum bergulat dengan kemunculan teknologi AI dengan cara yang sama,” kata Maye Quade dalam sebuah wawancara dengan CNBC, merujuk pada kecepatan pengembangan AI.
Bahaya itu nyata
Jessica Guistolise, salah satu korban Minnesota, mengatakan dia terus menderita kepanikan dan kecemasan yang berasal dari insiden tahun lalu.
Kadang -kadang, katanya, klik sederhana rana kamera dapat menyebabkan dia kehilangan napas dan mulai gemetar, matanya membengkak dengan air mata. Itulah yang terjadi di sebuah konferensi yang ia hadiri sebulan setelah pertama kali belajar tentang gambar.
“Saya mendengar klik kamera itu, dan saya secara harfiah berada di sudut -sudut paling gelap di web,” kata Guistolise. “Karena aku telah melihat diriku melakukan hal -hal yang bukan aku melakukan sesuatu.”
Mary Anne Franks, profesor di Sekolah Hukum Universitas George Washington, membandingkan pengalaman dengan perasaan yang digambarkan oleh para korban ketika berbicara tentang apa yang disebut pornografi balas dendam, atau posting foto dan video seksual seseorang secara online, seringkali oleh mantan mitra romantis.
“Itu membuat Anda merasa seperti Anda tidak memiliki tubuh Anda sendiri, bahwa Anda tidak akan pernah dapat mengambil kembali identitas Anda sendiri,” kata Franks, yang juga presiden Inisiatif Hak Sipil Cyber, sebuah organisasi nirlaba yang didedikasikan untuk memerangi penyalahgunaan dan diskriminasi online.
Deepfake lebih mudah dibuat dari sebelumnya
Kurang dari satu dekade yang lalu, seseorang perlu menjadi ahli AI untuk membuat Deepfake yang eksplisit. Berkat layanan Nudifier, yang diperlukan hanyalah koneksi web dan foto Facebook.
Para peneliti mengatakan model AI baru telah membantu mengantar dalam gelombang layanan nudify. Model sering dibundel dalam aplikasi yang mudah digunakan, sehingga orang yang tidak memiliki keterampilan teknis dapat membuat konten.
Dan sementara layanan Nudify dapat berisi penafian tentang mendapatkan persetujuan, tidak jelas apakah ada mekanisme penegakan hukum. Selain itu, banyak situs Nudify memasarkan diri mereka hanya sebagai apa yang disebut alat bertukar wajah.
“Ada aplikasi yang hadir sebagai major -major dan mereka sebenarnya terutama dimaksudkan sebagai pornografi,” kata Alexios Mantzarlis, seorang ahli keamanan AI di Cornell Tech. “Itu kerutan lain di ruang ini.”
Nudify Service Deepswap sulit ditemukan
Situs yang digunakan untuk membuat konten disebut DeepSwap, dan tidak ada banyak informasi tentangnya secara online.
Di sebuah siaran pers Diterbitkan pada bulan Juli, Deepswap menggunakan Hong Kong Dateline dan memasukkan kutipan dari Penyne Wu, yang diidentifikasi dalam rilis sebagai chief executive officer dan founder. Kontak media pada rilis adalah Shawn Banks, yang terdaftar sebagai manajer pemasaran.
CNBC tidak dapat menemukan informasi online tentang WU, dan mengirim beberapa e-mail ke alamat yang disediakan untuk bank, tetapi tidak menerima tanggapan.
Situs web Deepswap saat ini mencantumkan “Mindspark Ai Limited” sebagai nama perusahaannya, memberikan alamat di Dublin, dan menyatakan bahwa ketentuan layanannya “diatur oleh dan ditafsirkan sesuai dengan hukum Irlandia.”
Namun, pada bulan Juli, halaman Deepswap yang sama tidak menyebutkan MindSpark, dan referensi ke Irlandia sebaliknya mengatakan Hong Kong.
Kerusakan jaminan AI
Tagihan Maye Quade, yang masih dipertimbangkan, akan baik -baik saja perusahaan teknologi yang menawarkan layanan nudify $ 500 000 untuk setiap nonkonsensual, Deepfake eksplisit yang mereka hasilkan di negara bagian Minnesota.
Namun, beberapa ahli prihatin bahwa rencana administrasi Trump untuk meningkatkan sektor AI akan melemahkan upaya negara.
Pada akhir Juli, Trump menandatangani perintah eksekutif sebagai bagian dari Gedung Putih Rencana Aksi AI menggarisbawahi pembangunan AI sebagai “keharusan keamanan nasional.”
Kelley berharap dorongan AI federal tidak membahayakan upaya wanita Minnesota.
“Saya khawatir bahwa kita akan terus ditinggalkan dan dikorbankan di church mencoba memiliki beberapa ras geopolitik untuk AI yang kuat,” kata Kelley.
JAM TANGAN : Munculnya aplikasi AI ‘nudify’ yang mengkhawatirkan yang membuat gambar eksplisit dari orang -orang nyata.
