Ratusan tokoh masyarakat, termasuk ilmuwan pemenang Hadiah Nobel, mantan pemimpin militer, seniman dan keluarga kerajaan Inggris, menandatangani pernyataan pada hari Rabu menyerukan pelarangan pekerjaan yang dapat mengarah pada kecerdasan super komputer, suatu tahap kecerdasan buatan yang belum tercapai yang menurut mereka suatu hari nanti dapat menimbulkan ancaman bagi umat manusia.
Pernyataan tersebut mengusulkan “larangan pengembangan superintelligence” sampai terdapat “konsensus ilmiah yang luas bahwa hal itu akan dilakukan dengan aman dan terkendali” dan “dukungan publik yang kuat.”
Diselenggarakan oleh para peneliti AI yang prihatin dengan pesatnya kemajuan teknologi, pernyataan tersebut mendapat lebih dari 800 tanda tangan dari berbagai kelompok orang. Penandatangannya termasuk peraih Nobel dan peneliti AI Geoffrey Hinton, mantan Ketua Kepala Staf Gabungan Mike Mullen, rapper Will.i.am, mantan ajudan Trump di Gedung Putih. Steve Bannon dan Pangeran Harry dari Inggris dan istrinya, Meghan Markle.
Pernyataan tersebut menambah daftar seruan untuk memperlambat AI pada saat AI mengancam akan mengubah sebagian besar perekonomian dan budaya. OpenAI, Google, Meta, dan perusahaan teknologi lainnya menggelontorkan miliaran dolar untuk model AI baru dan pusat data yang mendukungnya, sementara semua jenis bisnis mencari cara untuk menambahkan fitur AI ke berbagai produk dan layanan.
Beberapa peneliti AI percaya bahwa sistem AI berkembang cukup pesat sehingga mereka akan segera menunjukkan apa yang disebut kecerdasan umum buatan, atau kemampuan untuk melakukan tugas intelektual seperti yang dilakukan manusia. Dari sana, para peneliti dan eksekutif teknologi percaya bahwa yang mungkin terjadi adalah superintelligence, yang mana model AI memiliki kinerja lebih baik daripada manusia yang paling ahli sekalipun.
Pernyataan tersebut merupakan produk dari Future of Life Institute, sebuah kelompok nirlaba yang menangani risiko berskala besar seperti senjata nuklir, bioteknologi, dan AI. Salah satu pendukung awal AI pada tahun 2015 adalah miliarder teknologi Elon Musk, yang kini menjadi bagian dari perlombaan AI dengan startupnya xAI. Sekarang, kata institut itudonor terbesarnya baru-baru ini adalah Vitalik Buterin, salah satu pendiri blockchain Ethereum, dan mengatakan bahwa mereka tidak menerima sumbangan dari perusahaan teknologi besar atau dari perusahaan yang ingin membangun kecerdasan umum buatan.
Direktur eksekutifnya, Anthony Aguirre, seorang ahli fisika di Universitas California, Santa Cruz, mengatakan perkembangan AI terjadi lebih cepat daripada pemahaman masyarakat tentang apa yang sedang terjadi atau apa yang akan terjadi selanjutnya.
“Kami, pada tingkat tertentu, telah dipilihkan jalur ini oleh perusahaan dan pendiri AI serta sistem ekonomi yang menggerakkan mereka, namun tidak ada yang benar-benar bertanya kepada orang lain, ‘Apakah ini yang kami inginkan?’” katanya dalam sebuah wawancara.
“Bagi saya cukup mengejutkan bahwa diskusi yang kurang terbuka mengenai ‘Apakah kita menginginkan hal-hal ini? Apakah kita ingin sistem AI menggantikan manusia?'” katanya. “Ini bisa diartikan sebagai berikut: Ya, inilah yang akan terjadi, jadi bersiaplah, dan kita harus menghadapi konsekuensinya. Tapi menurut saya kenyataannya tidak seperti itu. Kita punya banyak pilihan mengenai bagaimana kita mengembangkan teknologi, termasuk yang satu ini.”
Pernyataan ini tidak ditujukan pada satu organisasi atau pemerintah tertentu. Aguirre mengatakan dia berharap dapat memaksakan pembicaraan yang tidak hanya mencakup perusahaan AI besar, namun juga politisi di Amerika Serikat, Tiongkok, dan negara lain. Dia mengatakan pandangan pemerintahan Trump yang pro-industri mengenai AI perlu diseimbangkan.
“Ini bukan yang diinginkan masyarakat. Mereka tidak mau berlomba-lomba untuk itu,” ujarnya. Dia mengatakan pada akhirnya mungkin perlu ada perjanjian internasional mengenai AI tingkat lanjut, begitu juga dengan teknologi lain yang berpotensi berbahaya.
Gedung Putih tidak segera menanggapi permintaan komentar atas pernyataan tersebut pada hari Selasa, menjelang rilis resminya.
Masyarakat Amerika hampir terpecah secara merata mengenai potensi dampak AI, menurut Jajak Pendapat NBC News yang didukung oleh SurveyMonkey tahun ini. Meskipun 44% orang dewasa AS yang disurvei mengatakan mereka berpendapat AI akan membuat kehidupan mereka dan keluarga mereka lebih baik, 42% mengatakan mereka berpendapat AI akan memperburuk masa depan mereka.
Para eksekutif teknologi papan atas, yang telah memberikan prediksi tentang kecerdasan super dan mengisyaratkan bahwa mereka berupaya mewujudkannya sebagai sebuah tujuan, tidak menandatangani pernyataan tersebut. CEO Meta Mark Zuckerberg mengatakan pada bulan Juli bahwa kecerdasan super “sekarang sudah di depan mata.” Musk memposting di X pada bulan Februari bahwa munculnya superintelligence digital “sedang terjadi secara real-time” dan sebelumnya telah memperingatkan tentang “robot turun ke jalan membunuh orang,” meskipun sekarang Tesla, di mana Musk menjadi CEO, sedang mengerjakannya mengembangkan robot humanoid. CEO OpenAI Sam Altman mengatakan hal itu bulan lalu dia akan terkejut jika superintelligence tidak hadir pada tahun 2030 dan menulis dalam a Entri blog bulan Januari bahwa perusahaannya mengalihkan perhatiannya ke sana.
Beberapa perusahaan teknologi tidak segera menanggapi permintaan komentar atas pernyataan tersebut.
Pekan lalu, Future of Life Institute mengatakan kepada NBC News bahwa OpenAI telah mengeluarkan panggilan pengadilan kepada mereka dan presidennya sebagai bentuk pembalasan atas seruan pengawasan AI. Chief Strategy Officer OpenAI Jason Kwon menulis pada 11 Oktober bahwa panggilan pengadilan tersebut merupakan hasil dari kecurigaan OpenAI terhadap sumber pendanaan beberapa kelompok nirlaba yang kritis terhadap restrukturisasinya.
Penandatangan pernyataan lainnya termasuk salah satu pendiri Apple Steve Wozniak, salah satu pendiri Virgin Group Richard Branson, pembawa acara talk show konservatif Glenn Beck, mantan penasihat keamanan nasional AS Susan Rice, fisikawan pemenang Nobel John Mather, pemenang Turing Award dan peneliti AI Yoshua Bengio dan Pendeta Paolo Benanti, seorang penasihat AI Vatikan. Beberapa peneliti AI yang berbasis di Tiongkok juga menandatangani pernyataan tersebut.
Aguirre mengatakan tujuannya adalah untuk mendapatkan banyak penandatangan dari berbagai lapisan masyarakat.
“Kami ingin ini menjadi izin sosial bagi orang-orang untuk membicarakan hal ini, namun kami juga ingin menyatakan bahwa ini bukanlah isu khusus yang hanya dipermasalahkan oleh para nerd di Silicon Valley, yang sering kali menjadi satu-satunya orang yang terlibat. Ini adalah isu bagi seluruh umat manusia,” katanya.
