Fallo de Software Provocó un Accidente: Comando de Voz Desactivó los Faros de un Auto

Un conductor en China descubrió accidentalmente una falla crítica en el sistema de comandos de voz de su vehículo Lynk & Co Z20. Al intentar apagar las luces interiores mediante una instrucción hablada, el sistema interpretó erróneamente la solicitud y desactivó los faros delanteros del vehículo, lo que, según informes, derivó en un accidente al golpear una mediana.

El incidente, capturado por la cámara del tablero del vehículo, pone de manifiesto las vulnerabilidades latentes en la creciente integración de la tecnología de inteligencia artificial y los comandos de voz en los automóviles modernos. La solicitud del conductor era para apagar las luces de lectura interiores, pero el asistente de voz del coche entendió que debía apagar todas las luces exteriores, incluidos los faros.

Tras la desactivación de los faros, el conductor intentó reactivarlos mediante comandos de voz, pero el sistema respondió que la operación no podía completarse. Este fallo crítico de seguridad llevó al vehículo a impactar contra la mediana de la carretera.

Lynk & Co ha respondido rápidamente a este incidente, emitiendo un parche de emergencia mediante una actualización de software por aire (OTA). El objetivo de esta actualización es corregir la lógica del sistema para evitar que los faros se desactiven en condiciones inapropiadas cuando se utilizan comandos de voz.

Lo preocupante del caso es que esta vulnerabilidad no parece ser exclusiva de Lynk & Co. Informes indican que propietarios de otras marcas, como Zeekr y Deepal, han realizado pruebas y descubierto que sus vehículos también son susceptibles a desactivar las luces exteriores mediante comandos de voz amplios como 'apagar todas las luces', sorteando así los sistemas de seguridad integrados.

El Lynk & Co Z20 se comercializa en Europa bajo el nombre de Lynk & Co 02. Aún no está claro si los vehículos vendidos fuera de China o en otros mercados, como Estados Unidos, podrían verse afectados por vulnerabilidades similares.

Este suceso sirve como una seria advertencia sobre los riesgos asociados a la rápida adopción de sistemas inteligentes en los vehículos. Si bien la tecnología avanza a pasos agigantados, la programación no es infalible y los errores pueden tener consecuencias graves. La industria automotriz debe priorizar la seguridad y establecer salvaguardas técnicas robustas para prevenir que una entrada ambigua o un error de interpretación de la IA sobreescriba controles críticos del vehículo, como el sistema de iluminación.

La buena noticia es que este incidente específico no se convirtió en una catástrofe a gran escala y fue corregido rápidamente por el fabricante. Sin embargo, subraya la necesidad de una mayor diligencia en el desarrollo y prueba de sistemas de vehículos conectados y autónomos. La era de los 'smart everything' trae consigo no solo conveniencia, sino también los inherentes problemas de los dispositivos inteligentes, incluyendo fallos de software y vulnerabilidades de seguridad.

Fuente: Link