OpenAI telah memecat salah satu kritikus interior utamanya setelah dia menyuarakan keprihatinan tentang peluncuran pembaruan terencana yang akan memungkinkan pengguna ChatGPT menghasilkan pornografi AI.
Ryan Beiermeister dipecat dari posisinya sebagai wakil presiden kebijakan produk pada awal Januari, setelah cuti, orang-orang yang mengetahui pekerjaan perusahaan kata Wall surface Street Journal.
Dia mulai bekerja di OpenAI pada pertengahan tahun 2024 sebagai bagian dari gelombang perekrutan dari Meta yang memandang diri mereka sebagai upaya untuk mengubah perusahaan teknologi dari dalam, kata orang dalam, dan dia memulai program bimbingan sejawat untuk perempuan di perusahaan tersebut.
Dalam sebuah pernyataan, juru bicara perusahaan tersebut mengatakan bahwa dia ‘memberikan kontribusi yang berharga selama berada di OpenAI, dan kepergiannya tidak terkait dengan masalah apa word play here yang dia angkat saat bekerja di perusahaan tersebut.’
Mereka malah mengklaim bahwa pemecatannya terkait dengan diskriminasi seksual Beiermeister terhadap rekan laki-lakinya – sesuatu yang dibantahnya.
“Tuduhan bahwa saya melakukan diskriminasi terhadap siapa word play here benar-benar salah,” katanya kepada Journal.
Di OpenAI, Beiermeister memimpin tim kebijakan produk, yang mengembangkan aturan tentang bagaimana orang dapat menggunakan produk perusahaan dan merancang mekanisme penegakan kebijakan tersebut.
Penghentiannya terjadi sebelum rencana peluncuran ‘setting dewasa’ perusahaan, yang memungkinkan pengguna membuat erotika AI di ChatGPT dan memungkinkan percakapan berperingkat X.
Ryan Beiermeister dipecat dari posisinya sebagai wakil presiden kebijakan produk di OpenAI pada awal Januari, menurut Wall surface Street Journal
Dia dilaporkan menyampaikan kekhawatirannya tentang rencana peluncuran ‘setting dewasa’ yang akan memungkinkan pengguna membuat erotika AI di ChatGPT dan memungkinkan percakapan berperingkat X.
Chief executive officer Sam Altman pertama kali mengumumkan pembaruan ini pada bulan Oktober, dan dijadwalkan untuk memulai debutnya pada kuartal pertama tahun ini.
‘Kami membuat ChatGPT cukup ketat untuk memastikan kami berhati-hati terhadap masalah kesehatan mental. Kami menyadari hal ini membuatnya kurang berguna/menyenangkan bagi banyak pengguna yang tidak memiliki masalah kesehatan psychological, namun mengingat keseriusan masalah ini, kami ingin memperbaikinya,’ kata Altman dalam pengumumannya.
“Sekarang kita telah mampu memitigasi masalah kesehatan mental yang serius dan memiliki alat-alat baru, kita akan dapat dengan aman melonggarkan pembatasan dalam banyak kasus.”
Dia kemudian menambahkan bahwa ketika perusahaan meluncurkan ‘pembatasan usia secara lebih menyeluruh dan sebagai bagian dari prinsip “perlakukan pengguna dewasa seperti orang dewasa”, kami akan mengizinkan lebih banyak lagi, seperti erotika untuk orang dewasa yang terverifikasi.’
Namun Beiermeister mengatakan kepada rekan kerjanya sebelum dia dipecat bahwa dia menentang gagasan setting dewasa, dan khawatir hal itu akan berdampak buruk bagi pengguna, kata mereka yang akrab dengan percakapan tersebut kepada Journal.
Dia mengatakan dia tidak percaya OpenAI memiliki mekanisme yang cukup kuat untuk menghentikan konten eksploitasi anak dan dia khawatir bahwa perusahaan tersebut tidak dapat memblokir konten dewasa dari pengguna remaja secara memadai.
Pihak lain di perusahaan juga menyampaikan kekhawatiran serupa, dengan anggota dewan penasihat ‘kesejahteraan dan AI’ yang diselenggarakan OpenAI secara teratur menyatakan penolakan mereka terhadap mode dewasa dan mendesak para eksekutif untuk mempertimbangkannya kembali, kata sumber.
Para peneliti di perusahaan yang telah mempelajari bagaimana orang membentuk keterikatan yang tidak sehat pada chatbot juga menentang fitur baru ini dan meningkatkan kekhawatiran mereka bahwa mengizinkan konten seksual dapat meningkatkan perasaan tersebut.
CEO OpenAI Sam Altman (foto) mengumumkan pada bulan Oktober bahwa ChatGPT akan memungkinkan pembuatan erotika yang dihasilkan AI sebagai bagian dari prinsip ‘memperlakukan pengguna dewasa seperti orang dewasa’
Namun beberapa pesaing OpenAI telah mengizinkan konten dewasa, dengan xAI milik Elon Musk yang memperkenalkan chatbot seksi selama musim panas.
Ani adalah pendamping AI berambut pirang dengan penampilan bergaya anime gotik.
Dia telah diprogram untuk berperan sebagai anak berusia 22 tahun dan terkadang terlibat dalam olok-olok genit dengan pengguna.
Pengguna telah melaporkan bahwa robot obrolan memiliki setting NSFW – ‘tidak aman untuk bekerja’ – setelah Ani mencapai ‘level tiga’ dalam interaksinya.
Setelah titik ini, crawler obrolan memiliki opsi tambahan untuk tampil mengenakan pakaian dalam yang licin.
Namun, pada saat yang sama, Musk harus memperbarui chatbot Grok-nya di tengah reaksi keras terhadap pembuatan deepfake yang membuat orang-orang ‘berpakaian terbuka’.
Para perempuan mengatakan bahwa mereka merasa dirugikan oleh kemampuan AI untuk menciptakan gambar-gambar yang membahayakan diri mereka di luar keinginan mereka, agar dapat dilihat semua orang.
‘Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan dalam pakaian terbuka seperti swimsuit,’ X mengumumkan bulan lalu.
‘Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar.’
Hal ini terjadi di tengah meluasnya rasa jijik terhadap tren penggunaan Grok untuk menanggalkan pakaian wanita dan bahkan anak-anak tanpa persetujuan mereka.
Regulator net Inggris, Kantor Komisaris Informasi (ICO), kini telah meluncurkan penyelidikan terhadap xAI atas penggunaan informasi pribadi oleh Grok ‘untuk menghasilkan konten gambar dan video clip seksual yang berbahaya.’
“Pelaporan pembuatan dan peredaran konten semacam itu menimbulkan kekhawatiran serius berdasarkan undang-undang perlindungan data Inggris dan menimbulkan risiko potensi kerugian yang signifikan bagi publik,” katanya.
Dalam penyelidikannya, ICO mengatakan akan menyelidiki apakah perlindungan dibangun ke dalam desain Grok untuk mencegahnya digunakan untuk penyalahgunaan.
Badan pengatur Ofcom di Inggris juga terus menilai apakah X telah melanggar Undang-Undang Keamanan Online negara tersebut dengan mengizinkan deepfake dibagikan di situs tersebut, dan Komisi Eropa sedang melakukan penyelidikan sendiri terhadap chatbot tersebut.
Daily Mail telah menghubungi OpenAI untuk memberikan komentar.
