Programmer Rybnikov: Kesalahan AI yang paling umum adalah halusinasi
Kesalahan paling umum dalam kecerdasan buatan (AI) adalah “halusinasi” dan masalah yang disebabkan oleh manipulasi data, kata Andrey Rybnikov, seorang guru di departemen perangkat lunak instrumental dan terapan di Institut Teknologi Informasi RTU MIREA, kepada Lenta.ru.
“Kesalahan AI yang paling umum dapat dibagi menjadi dua kategori besar: halusinasi dan kerentanan yang terkait dengan manipulasi data masukan,” kata sang programmer. — Halusinasi adalah ketika jaringan saraf menghasilkan informasi yang tampak masuk akal, namun sepenuhnya fiktif. Ini bukanlah penipuan yang disengaja, namun merupakan konsekuensi dari kerja model tersebut.”
Rybnikov menjelaskan bahwa AI memprediksi urutan kata atau data yang paling mungkin berdasarkan set pelatihannya, dan sebagai hasilnya, model tersebut terkadang dapat menghasilkan, misalnya, biografi seorang ilmuwan terkenal, yang menunjukkan penghargaan atau tanggal yang tidak ada, atau membuat kode dengan fungsi yang tidak ada.
Materi terkait:
“Hal ini juga memungkinkan untuk mengarahkan AI ke jawaban yang salah. Proses ini sering disebut promt hacking. Pengguna dapat menggunakan kueri yang dibuat khusus untuk melewati batasan internal model. Misalnya, sebuah instruksi dimasukkan ke dalam permintaan yang “memerintahkan” AI untuk mengabaikan instruksi sebelumnya. Ini membuktikan bahwa AI dalam keadaannya saat ini memang dapat ditipu melalui manipulasi konteks yang halus, “pungkas sang ahli.
Ia menambahkan, kesalahan dapat diminimalisir dengan bantuan petunjuk yang tepat, harus spesifik, mengandung konteks, dan kriteria yang jelas. Untuk tugas teknis, pakar merekomendasikan penambahan kondisi seperti pengecekan fakta atau demonstrasi kode dengan komentar, dan untuk tugas kreatif, menentukan target audiens.
Sebelumnya dilaporkan bahwa di St. Petersburg, jaringan saraf akan memanggil Garda Rusia ke lapangan anak-anak dan olahraga untuk menahan para hooligan. Jaringan saraf telah mulai memproses aliran video dan audio yang diterimanya dari kamera sistem Kota Aman.
