Media sosial tidak pernah dipuji karena realismenya, namun penipuan online sedang mencapai puncaknya.
Sejak lahirnya platform seperti Facebook, Instagram, dan TikTok, konten aspiratif telah membanjiri feed kami tubuh yang terlalu sempurnarumah dan gaya hidup. Meskipun media sosial seharusnya bertujuan untuk membuat kita tetap terhubung, online semakin terasa terisolasi dan terlepas dari kenyataan. Cadangan air kotor dan deepfake membuatnya semakin buruk.
Munculnya alat AI generatif seperti Sora dari OpenAI, Veo dari Google, dan Midjourney telah memfasilitasi pembuatan video yang sekaligus luar biasa, imajinatif, dan menipu. Tiba-tiba, pesan teks sederhana dapat memunculkan apa pun yang Anda pikirkan. Ini merupakan keajaiban teknologi, dan seringkali merupakan mimpi buruk etis.
Jangan lewatkan konten teknologi dan ulasan berbasis laboratorium kami yang tidak memihak. Tambahkan CNET sebagai sumber Google pilihan.
AI slop mengacu pada rentetan konten digital berkualitas rendah yang dibuat dengan kecerdasan buatan tanpa henti. Anda mungkin pernah melihat contoh hal ini di media sosial Anda, mulai dari video hewan yang menunjukkan karakteristik aneh seperti manusia hingga lelucon dan lelucon yang tampaknya melanggar hukum fisika. Selain itu, deepfake tokoh masyarakat, baik hidup maupun mati, mengatakan dan melakukan hal-hal yang tidak pernah benar-benar terjadi menjadi hal yang panas — dan kontroversial — komoditas.
Bukan hanya AI yang buruk yang mengurangi pengalaman online. Menyaring pemalsuan orang, tempat, dan peristiwa yang lebih meyakinkan menuntut kewaspadaan lebih dari sebelumnya, dan hal ini benar-benar melelahkan.
Dari hubungan antarmanusia hingga kecanduan platform
Sejak peluncuran Aplikasi Sora OpenAI pada bulan September, saya bertanya-tanya mengapa ada orang yang ingin menelusuri feed yang hanya berisi momen buatan. Bahkan platform sosial yang lebih “tradisional” seperti Instagram dan TikTok telah dibanjiri dengan konten AI yang tampaknya tidak memiliki tujuan nyata, selain menunjukkan gambaran yang sangat nyata yang kini dapat dimunculkan oleh alat AI dalam sekejap.
Bukankah gunanya media sosial adalah untuk tetap berhubungan dengan orang-orang yang Anda kenal dan mengikuti tokoh masyarakat yang Anda minati? Apakah tujuan mendasar tersebut secara resmi sudah mati?
“Jawaban yang sinis adalah bahwa media sosial kini bertujuan untuk membuat Anda tetap terhubung dengan alat ini, bukan dengan satu sama lain,” kata Alexios Mantzarlis, direktur Inisiatif Keamanan, Kepercayaan dan Keselamatan Cornell Tech.
Raksasa teknologi “membuat harga saham mereka naik” dengan memamerkan kemampuan AI mereka, katanya, namun “hal ini mengorbankan pengalaman dalam platform tersebut.”
Memang, kepalsuan yang semakin tinggi ini berbenturan dengan keaslian yang banyak dari kita cari dan semakin sulit kita temukan secara online. Salah satu alasan saya jatuh cinta dengan TikTok bertahun-tahun yang lalu adalah karena itu lebih mudah menemukan konten yang lebih asli dan tanpa filter — sebuah kelegaan dari postingan influencer yang terlalu dipoles yang membanjiri feed Instagram saya, meskipun saya juga semakin sering melihat postingan tersebut di TikTok.
Bahkan sebelum munculnya AI generatif, pembaruan Instagram dari teman dan keluarga sebagian besar telah digantikan oleh konten dari pembuat konten terkenal yang tidak saya ikuti. Itu tidak selalu buruk, karena sering kali saya dihadapkan pada topik yang ingin saya ketahui lebih lanjut. Fokus pada minat pengguna itulah yang membuat algoritma TikTok begitu kuat (dan membuat ketagihan). Namun hal ini membuat saya semakin merasa tidak terhubung dengan orang-orang yang sebenarnya saya kenal — terutama karena orang-orang biasa juga demikian tampaknya memposting lebih sedikit dewasa ini.
Faktorkan AI ke dalam persamaan itu, dan kemiripan apa pun akan memudar. Sekarang, selain berjuang melawan perasaan tidak aman karena melihat gambar orang sungguhan yang telah diperbaiki, Anda juga mungkin tersandung foto liburan yang seluruhnya dihasilkan oleh AIatau menemukan pengaruh AI yang memperkuat standar kecantikan yang tidak dapat dicapai.
“Sebelumnya, kami punya masalah ekspektasi tubuh yang tidak realistis,” kata Mantzarlis. “Dan sekarang kita menghadapi dunia tidak nyata harapan tubuh.”
Semakin sulit bagi orang-orang untuk memisahkan fakta dari fiksi, namun penyebaran berita bohong dan palsu tidak melambat. Waktu terus berjalan bagi platform untuk mengatur gelombang konten baru ini sebelum hal itu menenggelamkan kesadaran kita akan realitas.
Membatasi bahaya AI
Perusahaan media sosial seperti Meta dan TikTok telah berjanji untuk memberi label pada konten yang dibuat oleh AI dan melarang postingan berbahaya seperti peristiwa krisis palsu atau penggunaan kemiripan individu tanpa izin mereka. Pada hari Rabu, TikTok mengatakan akan mulai menguji kontrol baru bagi masyarakat pilih berapa banyak konten yang dihasilkan AI mereka ingin melihatnya di feed mereka.
Namun karena tidak adanya peraturan pemerintah — hal ini menjadi lambat karena faktor-faktor seperti itu kebuntuan politik lebih Bagaimana untuk mengatur AI, lobi dari perusahaan teknologi (Meta baru-baru ini meluncurkan PAC super untuk menolak undang-undang AI) dan pesatnya perkembangan teknologi — perusahaan harus menegakkan kebijakan mereka sendiri. Memang sulit bagi situs untuk menandai segala sesuatu mengingat banyaknya konten, namun sejauh ini, upaya asal-asalan mereka tampaknya tidak terlalu menjanjikan.
Kurangnya peraturan dapat memperbesar ketidakpercayaan dan perselisihan di dunia maya. Suatu bulan Agustus dipelajari oleh Raptivesebuah perusahaan media yang bekerja dengan pembuat konten digital, menemukan bahwa ketika orang-orang hanya mencurigai konten tersebut dibuat oleh AI, mereka secara naluriah menjauhkan diri dari konten tersebut. Secara khusus, 48% responden menganggap konten tersebut kurang dapat dipercaya, sementara 60% mengatakan mereka merasakan hubungan emosional yang lebih rendah terhadap konten tersebut.
Namun dengan konten buatan influencer yang mendominasi sebagian besar platform sosial saat ini, AI dapat dipasarkan sebagai cara untuk menyederhanakan proses yang biasanya memakan waktu.
“Alat AI memudahkan lebih banyak orang untuk menjadi pencipta,” kata Paul Bannister, kepala strategi di Raptive. “Ini meningkatkan jejak siapa yang bisa menjadi pencipta dengan lebih cepat.”
Mengobrol dengan Bannister membantu mengimbangi a sedikit skeptisisme saya; dia mengingatkan saya bahwa “seperti teknologi baru lainnya, selalu ada kegunaan baik dan buruknya.” Seiring dengan kegagalan AI, katanya, masih ada kreativitas manusia di balik konten AI (yang seringkali konyol) yang kita lihat online.
“Akan ada banyak sampah dan masalah di jalan, tapi mungkin hal ini bisa menciptakan bentuk baru yang menakjubkan dalam berbagi informasi dan hiburan,” kata Bannister. “Masih banyak sampah yang mengalir melalui sistem sehingga kita tidak tahu apa dampaknya.”
Ada sisi lain dari kemampuan AI: “Ia akan digunakan untuk semakin memperburuk ketegangan, untuk mengkonfirmasi bias yang sudah ada pada masyarakat,” kata Mantzarlis.
Media sosial sudah menjadi ruang gaung untuk menegaskan kembali sudut pandang masyarakat yang berpikiran sempit dan berbahaya serta menyebarkan informasi yang salah dengan cepat. Saya tidak yakin kita siap menghadapi betapa buruknya hal ini ketika setiap orang memiliki kekuatan untuk dengan mudah menciptakan realitas mereka sendiri dan membagikannya kepada dunia. Keretakan masyarakat hanya akan memperlihatkan keretakan yang lebih luas.
Jika ada, saya akan sangat menghargai jika lebih banyak platform mengambil satu halaman dari buku Pinterest dan memberi kami opsi untuk melakukannya turunkan seberapa banyak AI yang kita lihat di feed kami. Meski diberi pilihan, saya akan menurunkannya hingga nol.
