OpenAI mengatakan sedang bekerja sama dengan para aktor untuk menindak Deepfake Selebriti di Sora

OpenAI mengatakan pada hari Senin bahwa pihaknya akan berbuat lebih banyak untuk menghentikan pengguna aplikasi pembuatan video clip AI-nya Sora dari membuat klip yang mirip dengan aktor dan selebritas lainnya setelah aktor Bryan Cranston dan serikat pekerja yang mewakili aktor movie dan TV menyampaikan kekhawatiran bahwa video clip deepfake dibuat tanpa persetujuan para pemainnya.

Aktor Bryan Cranston, Screen Cast Guild-American Federation of Television and Radio Artists (SAG-AFTRA) dan beberapa agensi bakat mengatakan mereka mencapai kesepakatan dengan pembuat ChatGPT mengenai penggunaan kemiripan selebriti di Sora. Sendi penyataan menyoroti konflik yang intens antara perusahaan AI dan pemegang hak seperti perusahaan milik selebriti, workshop film, dan agensi bakat– dan bagaimana teknologi AI generatif terus mengikis kenyataan yang ada bagi kita semua.

Sora, aplikasi saudara baru dari ChatGPT, memungkinkan pengguna membuat dan berbagi video yang dihasilkan AI Ini diluncurkan dengan meriah tiga minggu lalu, dan banyak dicari oleh para penggemar AI kode undangan Tapi Sora unik di antara generator video clip AI dan aplikasi media sosial; ini memungkinkan Anda menggunakan rekaman kemiripan orang lain untuk menempatkannya di hampir semua video AI. Hal ini, fading small talk, aneh dan lucu, dan paling buruk, gulungan deepfake yang tiada habisnya yang hampir tidak bisa dibedakan dari kenyataan.

Cranston menyadari kemiripannya digunakan oleh pengguna Sora saat aplikasi diluncurkan, dan aktor Breaking Poor itu memberi tahu serikat pekerjanya. Perjanjian baru dengan serikat aktor dan agensi bakat ini menegaskan kembali bahwa selebriti harus memilih agar kemiripan mereka tersedia untuk dimasukkan ke dalam video clip yang dihasilkan AI. OpenAI mengatakan dalam pernyataannya bahwa mereka telah “memperkuat batasan dalam replikasi suara dan kemiripan” dan “menyatakan penyesalan atas generasi yang tidak disengaja ini.”

OpenAI memang memiliki pagar pembatas untuk mencegah pembuatan video orang-orang terkenal: OpenAI menolak permintaan saya untuk meminta video clip Taylor Swift di atas panggung Misalnya. Tapi pagar pembatas ini tidak sempurna, seperti yang kita lihat minggu lalu dengan meningkatnya tren orang yang membuat video yang menampilkan Pendeta Martin Luther King Jr. Mulai dari deepfake yang aneh tentang pemimpin hak-hak sipil yang nge-rap dan bergulat di WWE hingga konten rasis yang terang-terangan.

Jangan lewatkan konten teknologi dan ulasan berbasis laboratorium kami yang tidak memihak. Tambahkan CNET sebagai sumber Google pilihan.

Banjirnya “penggambaran yang tidak sopan”, demikian sebutan OpenAI dalam sebuah pernyataan pada hari Jumat, adalah alasan mengapa perusahaan menghentikan sementara kemampuan membuat video clip yang menampilkan King.

Bernice A. King, putrinya, minggu lalu secara terbuka meminta orang-orang untuk berhenti mengirimkan video clip ayahnya yang dibuat dengan AI. Dia dulu bergema Putri komedian Robin Williams, Zelda, yang menyebut video clip AI semacam ini “menjijikkan”.

OpenAI mengatakan pihaknya “percaya bahwa tokoh masyarakat dan keluarga mereka pada akhirnya harus memiliki kendali atas bagaimana gambar mereka digunakan” dan bahwa “perwakilan resmi” dari tokoh masyarakat dan perkebunan mereka dapat meminta agar gambar mereka tidak disertakan dalam Sora. Dalam hal ini, harta milik Raja adalah entitas yang bertanggung jawab untuk memilih bagaimana rupanya digunakan.

Ini bukan pertama kalinya OpenAI bersandar pada pihak lain untuk melakukan keputusan tersebut. Sebelum peluncuran Sora, perusahaan tersebut dilaporkan mengatakan kepada sejumlah agensi bakat yang berdekatan dengan Hollywood bahwa mereka harus memilih untuk tidak memasukkan kekayaan intelektual mereka ke dalam Sora. Namun pendekatan awal tersebut tidak sesuai dengan undang-undang hak cipta selama puluhan tahun– biasanya, perusahaan perlu melisensikan konten yang dilindungi sebelum menggunakannya– dan OpenAI membalikkan pendiriannya beberapa hari kemudian. Ini adalah salah satu contoh bagaimana perusahaan dan pencipta AI bentrok soal hak cipta termasuk melalui tuntutan hukum tingkat tinggi

(Pengungkapan: Ziff Davis, perusahaan induk CNET, pada bulan April mengajukan gugatan terhadap OpenAI, menuduhnya melanggar hak cipta Ziff Davis dalam pelatihan dan pengoperasian sistem AI-nya.)