Kemajuan pesat di AI telah membuat banyak orang terkejut, seperti yang disukai oleh perusahaan teknologi besar Google , Grok , Meta Dan OpenAI berlomba untuk menciptakan model terpintar dengan kecepatan yang sangat tinggi. Terlepas dari potensi manfaat yang dapat diberikan oleh AI, ada banyak manfaat yang mungkin bisa didapat lebih banyak kekhawatiran tentang bagaimana hal itu dapat berdampak negatif terhadap umat manusia.
Sedemikian rupa sehingga lebih dari 700 tokoh masyarakat terkemuka memilikinya menandatangani pernyataan mendeklarasikan pelarangan superintelligence AI hingga pengembangannya dapat dilakukan dengan aman, dan hingga terdapat dukungan kuat dari masyarakat terhadap hal tersebut.
Pernyataan tersebut diterbitkan pada hari Kamis dan menyatakan bahwa perkembangan AI yang dapat mengungguli manusia dalam hampir semua tugas kognitif, terutama dengan sedikit pengawasan, merupakan hal yang memprihatinkan.
Ketakutan akan segala hal mulai dari hilangnya kebebasan hingga risiko keamanan nasional dan kepunahan manusia semuanya menjadi perhatian utama, menurut kelompok tersebut.
Jangan lewatkan konten teknologi dan ulasan berbasis laboratorium kami yang tidak memihak. Tambahkan CNET sebagai sumber Google pilihan.
Beberapa tanda tangan berasal dari tokoh-tokoh terkemuka, termasuk “ayah baptis AI” Yoshua Bengio dan Geoffrey Hinton, mantan pembuat kebijakan dan selebriti seperti Kate Bush dan Joseph Gordon-Levitt.
Elon Musk sendiri sebelumnya memperingatkan bahaya AI, bahkan mengatakan bahwa manusia “memanggil setan” dengan AI. Musk bahkan menandatangani surat serupa bersama para pemimpin teknologi lainnya pada awal tahun 2023, mendesak penghentian penggunaan AI.
The Future of Life Institute juga merilis a jajak pendapat nasional minggu ini, menunjukkan hanya 5 % orang Amerika yang disurvei mendukung pengembangan superintelligence yang cepat dan tidak diatur saat ini. Lebih dari separuh responden– 64 %– mengatakan bahwa AI supercerdas tidak boleh dikembangkan sampai AI tersebut terbukti aman dan terkendali, dan 73 % menginginkan regulasi yang kuat mengenai AI tingkat lanjut.
Pihak yang berkepentingan juga dapat menandatangani pernyataan tersebut, dengan jumlah tanda tangan saat tulisan ini dibuat adalah 27 700
