Sejak Tesla diluncurkan Fitur lengkap self-driving (FSD) di beta pada tahun 2020, manual pemilik perusahaan telah jelas: bertentangan dengan namanya, mobil menggunakan fitur tidak dapat mengemudi sendiri.
Sistem bantuan pengemudi Tesla dibangun untuk menangani banyak situasi jalan – berhenti di lampu berhenti, mengubah jalur, kemudi, pengereman, berputar. Namun, “Self-driving penuh (diawasi) mengharuskan Anda untuk memperhatikan jalan dan siap untuk mengambil alih setiap saat,” Fading negara bagian “Kegagalan untuk mengikuti instruksi ini dapat menyebabkan kerusakan, cedera serius atau kematian.”
Namun, sekarang, perpesanan dalam mobil baru mendesak pengemudi yang melayang di antara jalur atau merasa mengantuk untuk menyalakan FSD-driver yang membingungkan, yang diklaim oleh para ahli dapat mendorong mereka untuk menggunakan fitur tersebut dengan cara yang tidak aman. “Lane Drift terdeteksi. Biarkan FSD membantu sehingga Anda dapat tetap fokus,” membaca pesan pertama, yang termasuk dalam pembaruan perangkat lunak dan tutul Awal bulan ini oleh seorang peretas yang melacak pengembangan Tesla.
“Mengantuk terdeteksi. Tetap fokus pada FSD,” baca pesan lainnya. Online, pengemudi sejak itu memposting bahwa mereka sudah terlihat serupa pesan di layar di dalam mobil mereka. Tesla tidak menanggapi permintaan komentar tentang pesan ini, dan Wired belum dapat menemukan pesan ini muncul di layar Tesla di dalam mobil.
Masalahnya, kata para peneliti, adalah bahwa saat-saat yang tidak diperhatikan adalah ketika fitur bantuan pengemudi yang berpikiran keselamatan harus menuntut pengemudi mendapatkan ultra-fokus di jalan-tidak menyarankan mereka bergantung pada a sistem berkembang untuk mengimbangi gangguan atau kelelahan mereka. Paling buruk, timely seperti itu bisa menyebabkan kecelakaan.
“Pesan ini menempatkan pengemudi dalam situasi yang sangat sulit,” kata Alexandra Mueller, seorang ilmuwan riset elderly di Institut Asuransi untuk Keselamatan Jalan Raya yang mempelajari teknologi bantuan pengemudi. Dia percaya bahwa “Tesla pada dasarnya memberikan serangkaian instruksi yang bertentangan.”
Banyak penelitian penelitian bagaimana manusia berinteraksi dengan sistem komputer yang dibangun untuk membantu mereka menyelesaikan tugas. Umumnya ia menemukan hal yang sama: orang benar -benar Pengawas sistem pasif yang mengerikan Itu cukup bagus sebagian besar waktu, tetapi tidak sempurna. Manusia membutuhkan sesuatu untuk membuat mereka tetap terlibat.
Dalam penelitian di sektor penerbangan, itu disebut” out-of-the-loop Masalah kinerja, “di mana pilot, yang mengandalkan sistem otomatis sepenuhnya, dapat gagal memantau kerusakan yang memadai karena kepuasan setelah periode operasi yang panjang. Kurangnya keterlibatan aktif ini, juga dikenal sebagai penurunan kewaspadaan, dapat menyebabkan berkurangnya kemampuan untuk memahami dan mendapatkan kembali kontrol sistem otomatis yang tidak berfungsi.
“Ketika Anda mencurigai pengemudi menjadi mengantuk, untuk menghilangkan lebih banyak keterlibatan fisik mereka – itu tampaknya sangat kontraproduktif,” kata Mueller.
“Sebagai manusia, saat kita lelah atau kita lelah, mengambil lebih banyak hal yang perlu kita lakukan sebenarnya bisa menjadi bumerang,” kata Charlie Klauer, seorang ilmuwan dan insinyur peneliti yang mempelajari pengemudi dan mengemudi kinerja di Virginia Technology Transportation Institute. “Ini rumit.”
Selama bertahun -tahun, Tesla telah membuat perubahan pada teknologinya agar lebih sulit bagi pengemudi yang lalai untuk menggunakan FSD. Pembuat mobil dimulai pada tahun 2021 untuk menggunakan kamera pemantauan pengemudi dalam mobil untuk menentukan apakah pengemudi cukup memperhatikan saat menggunakan FSD; Serangkaian peringatan peringatan jika mereka tidak melihat jalan. Tesla juga menggunakan “sistem pemogokan” yang dapat mencegah pengemudi menggunakan fitur bantuan pengemudi mereka selama seminggu jika mereka berulang kali gagal menanggapi petunjuknya.
