Cerita.co.id melaporkan bahwa sistem kecerdasan buatan (AI) pada mobil listrik Tesla, yang dirancang untuk menjamin keselamatan pengemudi, ternyata menyimpan celah yang cukup mengejutkan. Hanya dengan bermodalkan miniatur kepala boneka pesepakbola dunia seperti Cristiano Ronaldo atau Lionel Messi, yang harganya tak lebih dari USD 10 (sekitar Rp 170 ribuan), sistem keselamatan canggih ini bisa dikelabui dengan mudah.
Fenomena ini, yang pertama kali diungkap oleh Carscoops dan Digital Trends, kini tengah viral di berbagai platform media sosial, khususnya di kalangan pemilik Tesla di Tiongkok. Mereka memanfaatkan miniatur kepala figur publik—mulai dari Cristiano Ronaldo, Lionel Messi, hingga aktor Dwayne "The Rock" Johnson—untuk menyiasati Driver Monitoring System (DMS) Tesla.
Untuk diketahui, Tesla melengkapi kendaraannya dengan sebuah kamera kecil yang tersembunyi di atas spion tengah. Kamera berbasis AI ini memiliki tugas krusial: memantau pergerakan mata dan kepala pengemudi secara real-time. Apabila terdeteksi pengemudi menunjukkan tanda-tanda kelengahan, seperti bermain ponsel atau mengantuk saat fitur Autopilot atau Full Self-Driving (FSD) aktif, sistem akan segera mengaktifkan alarm peringatan yang cukup mengganggu.
Celah ini kemudian dieksploitasi oleh sejumlah pemilik Tesla yang ‘kreatif’ namun berpotensi membahayakan. Mereka menempelkan kepala boneka plastik tersebut menggunakan suction cup tepat di kaca depan, persis di hadapan kamera interior Tesla. Bukan untuk dikenakan di kepala, melainkan ditempelkan di posisi strategis tersebut.
Mengingat letak kamera Tesla yang agak tinggi dan menyorot ke bawah ke arah pengemudi, begitu di depannya diletakkan kepala boneka yang statis namun memiliki fitur wajah yang detail, sistem Tesla langsung terkecoh. Secara cerdik, sistem AI menginterpretasikan objek statis dengan detail wajah tersebut sebagai seorang pengemudi manusia yang sedang siaga dan fokus menatap jalan.
Seorang pemilik Tesla Model 3 bahkan mengaku kepada Wired bahwa ia sempat menjajal trik ini dalam sebuah perjalanan jauh. Hasilnya, menurut laporan Wired, sangat mencengangkan sekaligus mengkhawatirkan: mobilnya dapat melaju tanpa hambatan selama 30 menit penuh tanpa sekalipun mengeluarkan peringatan kelengahan, padahal pengemudi tersebut tengah asyik melakukan aktivitas lain.
Trik mengakali sistem ini ternyata tidak berhenti pada boneka plastik semata. Seiring Tesla meluncurkan pembaruan sistem FSD (Supervised) yang diklaim lebih ketat, beberapa pemilik mobil kini mengembangkan trik yang lebih niat. Mereka memasang layar monitor mini di depan kamera Tesla, kemudian memutar video pendek yang menampilkan simulasi wajah manusia asli yang berkedip dan menengok secara natural.
Insiden ini menyoroti tantangan berkelanjutan dalam pengembangan AI untuk kendaraan otonom, di mana kecerdasan manusia yang ‘nakal’ terkadang bisa menemukan cara untuk mengakali sistem yang dirancang untuk keselamatan. Hal ini menjadi pengingat penting akan perlunya inovasi berkelanjutan dalam keamanan AI untuk mencegah potensi bahaya di jalan raya.
Tinggalkan komentar