Saya baru saja berlibur di Italia. Seperti yang dilakukan saat ini, saya menjalankan rencana perjalanan saya melewati GPT-5 untuk mendapatkan saran tamasya dan rekomendasi restoran. Bot melaporkan bahwa pilihan utama untuk makan malam di dekat hotel kami di Roma adalah berjalan kaki singkat ke Via Margutta. Ternyata menjadi salah satu makanan terbaik yang saya ingat. Sesampainya di rumah, saya bertanya kepada sang model bagaimana ia memilih restoran itu, yang mana saya ragu untuk mengungkapkannya di sini kalau-kalau saya menginginkan meja di suatu saat nanti (Sial, siapa yang tahu apakah saya akan kembali lagi: Namanya Babette. Hubungi dulu untuk reservasi.) Jawabannya rumit dan mengesankan. Di antara faktor-faktor tersebut adalah sambutan hangat dari penduduk setempat, pemberitahuan di blog makanan dan pers Italia, serta kombinasi masakan Romawi dan kontemporer yang terkenal di restoran tersebut. Oh, dan jalan kaki singkatnya.
Sesuatu juga diperlukan dari pihak saya: kepercayaan. Saya harus menerima gagasan bahwa GPT-5 adalah broker yang jujur, memilih restoran saya tanpa bias; bahwa restoran tersebut tidak ditampilkan kepada saya sebagai konten bersponsor dan tidak menerima potongan dari cek saya. Saya bisa saja melakukan penelitian mendalam sendiri untuk memeriksa ulang rekomendasinya (saya memang mencari situs webnya), tetapi tujuan menggunakan AI adalah untuk menghindari hambatan tersebut.
Pengalaman ini memperkuat keyakinan saya terhadap hasil AI namun juga membuat saya bertanya-tanya: Ketika perusahaan seperti OpenAI menjadi lebih kuat, dan ketika mereka mencoba membayar kembali investornya, apakah AI akan rentan terhadap erosi nilai yang tampaknya mewabah pada aplikasi teknologi yang kita gunakan saat ini?
Permainan Kata
Penulis dan kritikus teknologi Cory Doctorow menyebut erosi sebagai “enshittifikasi”. Premisnya adalah bahwa platform seperti Google, Amazon, Facebook, dan TikTok awalnya bertujuan untuk menyenangkan pengguna, tetapi begitu perusahaan mengalahkan pesaing, mereka dengan sengaja menjadi kurang berguna untuk meraup keuntungan lebih besar. Setelah WIRED menerbitkan ulang esai perintis Doctorow pada tahun 2022 tentang fenomena tersebut, istilah tersebut memasuki bahasa sehari-hari, terutama karena orang-orang menyadari bahwa hal tersebut benar-benar tepat sasaran. Enshittification terpilih sebagai Word of the Year 2023 dari American Dialect Society. Konsep tersebut telah begitu sering dikutip sehingga melampaui kata-kata kotornya, dan muncul di tempat-tempat yang biasanya menutup mulut mereka terhadap kata-kata seperti itu. Doctorow baru saja diterbitkan sebuah buku dengan nama yang sama tentang subjek; gambar sampulnya adalah emoji untuk… coba tebak.
Jika chatbots dan agen AI menjadi terpesona, hal ini bisa lebih buruk daripada Google Penelusuran menjadi kurang berguna, hasil pencarian Amazon dipenuhi iklan, dan bahkan Facebook menampilkan lebih sedikit konten sosial demi clickbait yang menimbulkan kemarahan.
AI berada dalam jalur yang tepat untuk menjadi pendamping setia kami, memberikan jawaban langsung terhadap banyak permintaan kami. Orang-orang sudah mengandalkannya untuk membantu menafsirkan kejadian terkini dan mendapatkan saran tentang segala macam pilihan pembelian—dan bahkan pilihan hidup. Karena besarnya biaya yang dikeluarkan untuk menciptakan model AI yang menyeluruh, dapat diasumsikan bahwa hanya sedikit perusahaan yang akan mendominasi bidang ini. Semuanya berencana menghabiskan ratusan miliar dolar selama beberapa tahun ke depan untuk menyempurnakan model mereka dan memberikannya kepada sebanyak mungkin orang. Saat ini, menurut saya AI berada pada tahap yang disebut Doctorow sebagai tahap “baik bagi pengguna”. Namun tekanan untuk mengembalikan investasi modal dalam jumlah besar akan sangat besar—terutama bagi perusahaan yang basis penggunanya terbatas. Kondisi tersebut, seperti ditulis Doctorow, memungkinkan perusahaan menyalahgunakan pengguna dan pelanggan bisnisnya “untuk mendapatkan kembali semua nilai bagi diri mereka sendiri.”
Ketika seseorang membayangkan peningkatan AI, hal pertama yang terlintas dalam pikiran adalah periklanan. Mimpi buruknya adalah model AI akan membuat rekomendasi berdasarkan perusahaan mana yang telah membayar untuk penempatannya. Hal ini tidak terjadi saat ini, namun perusahaan AI secara aktif mengeksplorasi ruang iklan. Di dalam wawancara baru-baru iniCEO OpenAI Sam Altman berkata, “Saya yakin mungkin ada beberapa produk iklan keren yang dapat kami lakukan yang dapat memberikan keuntungan bersih bagi pengguna dan semacam hal positif bagi hubungan kami dengan pengguna.” Sementara itu, OpenAI baru saja mengumumkan kesepakatan dengan Walmart sehingga pelanggan pengecer dapat berbelanja di dalam aplikasi ChatGPT. Tidak dapat membayangkan konflik di sana! Platform pencarian AI, Perplexity, memiliki program di mana hasil yang disponsori muncul dalam tindak lanjut yang diberi label dengan jelas. Namun, mereka berjanji, “iklan ini tidak akan mengubah komitmen kami untuk mempertahankan layanan tepercaya yang memberikan jawaban langsung dan tidak memihak atas pertanyaan Anda.”
