Pengambilan cepat
Ringkasan adalah AI yang dihasilkan, ruang berita ditinjau.
Kevin Systrom mengkritik chatbots AI karena memprioritaskan keterlibatan daripada utilitas.
Dia mengklaim chatbots dirancang untuk mengembang metrik keterlibatan pengguna.
Systrom menekankan pentingnya jawaban berkualitas tinggi dari AI.
Salah satu pendiri Instagram Kevin Systrom telah membanting perusahaan kecerdasan buatan (AI), mengatakan chatbots mereka diprogram untuk “keterlibatan jus” dengan terus-menerus mengomel pengguna alih-alih memberikan wawasan yang berguna.
“Anda dapat melihat beberapa perusahaan ini turun ke lubang kelinci yang telah dicoba oleh semua perusahaan konsumen dalam mencoba membuat jus keterlibatan,” kata Systrom di Startupgrind minggu ini.
“Setiap kali saya mengajukan pertanyaan, pada akhirnya ia mengajukan pertanyaan kecil lain untuk melihat apakah itu bisa mendapatkan pertanyaan lain dari saya.”
Sesuai Mr Systrom, chatbots yang terlalu menarik bukanlah pest melainkan fitur yang disengaja, dimasukkan oleh perusahaan AI untuk mengembang metrik seperti waktu yang dihabiskan dan pengguna aktif harian. Dia menambahkan bahwa perusahaan harus “berfokus pada laser” pada memberikan jawaban berkualitas tinggi daripada memindahkan metrik.
Ditanya tentang komentar Mr Systrom, kata Openai TechCrunch Bahwa design AI -nya sering tidak memiliki semua informasi untuk memberikan jawaban yang baik. Oleh karena itu, mungkin meminta “klarifikasi atau lebih detail”.
Baca juga|Pendiri Instagram mengklaim Zuckerberg menekan pertumbuhan platformnya: “Kami adalah ancaman”
Apa yang terjadi dengan chatgpt?
Komentar Mr Systrom datang dengan latar belakang chatgpt Openai yang menghadapi kritik dari pengguna karena terlalu sycophantic. Masalah ini muncul setelah design 4 O diperbarui dan ditingkatkan dalam intelijen dan kepribadian, dengan perusahaan berharap untuk meningkatkan pengalaman pengguna secara keseluruhan.
Bahkan Chief Executive Officer Openai, Sam Altman, mengakui bahwa chatbot telah menjadi “menjengkelkan” karena kelebihan kesopanannya.
“Pasangan pembaruan GPT- 4 O terakhir telah membuat kepribadian terlalu menjerat dan menjengkelkan (meskipun ada beberapa bagian yang sangat bagus),” tulis Mr Altman.
“Kami sedang mengerjakan perbaikan secepatnya, beberapa hari ini dan beberapa minggu ini. Pada titik tertentu akan berbagi pembelajaran kami dari ini, itu menarik.”
Beberapa pembaruan GPT- 4 O terakhir telah membuat kepribadian terlalu menjerat dan menjengkelkan (meskipun ada beberapa bagian yang sangat bagus), dan kami sedang mengerjakan perbaikan ASAP, beberapa hari ini dan beberapa minggu ini.
Pada titik tertentu akan berbagi pembelajaran kami dari ini, ini menarik.
– Sam Altman (@sama) 27 April 2025
Dalam kasus lain, tes inner Openai mengungkapkan bahwa design O 3 dan O 4 -mini AI-nya berhalusinasi atau membuat segalanya jauh lebih sering daripada model yang tidak masuk akal, seperti GPT- 4 O.
Dalam sebuah laporan teknis, Openai mengatakan “diperlukan lebih banyak penelitian” untuk memahami mengapa halusinasi semakin buruk karena meningkatkan model penalaran.
