El caso Tesla 2016: por qué la responsabilidad fue del conductor (y qué matizó la investigación)
El 7 de mayo de 2016, cerca de Williston, Florida, un Tesla Model S con el sistema Autopilot activado se incrustó bajo el remolque de un camión que giraba para cruzar la ruta. El conductor, Joshua Brown, de 40 años, murió en el impacto. Fue el primer accidente fatal conocido con un sistema de conducción asistida en funcionamiento, y las dos investigaciones oficiales que siguieron fijaron un criterio que sigue siendo la referencia para pensar la responsabilidad en niveles intermedios de automatización.
Los hechos
El Tesla circulaba con dos sistemas activados: el control de crucero adaptativo (Traffic-Aware Cruise Control) y el mantenimiento de carril (Autosteer) —un conjunto que corresponde al nivel 2 de automatización, donde el conductor debe supervisar de forma permanente—.
Los datos del vehículo mostraron una secuencia clara. El camión que cruzaba debió ser visible durante al menos siete segundos antes del impacto. Ni el sistema de frenado automático de emergencia ni el conductor frenaron. Brown circulaba a 74 mph (unos 119 km/h) en una zona de 65 mph. En los 37 minutos previos con Autopilot activo, había tenido las manos sobre el volante apenas 25 segundos, e ignoró siete alertas visuales y seis sonoras que le pedían retomar el control.
El sistema no reconoció el lateral blanco del remolque contra un cielo brillante: no era una situación para la que Autopilot estuviera diseñado.
Las dos investigaciones (y por qué no dijeron lo mismo)
Dos organismos investigaron el hecho, y la distinción entre sus conclusiones es lo más valioso del caso.
La NHTSA (agencia de seguridad vial) cerró su investigación de defectos en enero de 2017 sin encontrar un defecto en Autopilot: el sistema funcionó según su diseño y no ameritaba un recall. Para la agencia de seguridad, no hubo falla del producto.
La NTSB (junta de seguridad en el transporte) fue más matizada. En septiembre de 2017 determinó como causa probable la combinación de dos factores: la falta de ceder el paso del camionero y la inatención del conductor del Tesla producto de una excesiva confianza en la automatización. Pero agregó una crítica al fabricante que suele omitirse: el diseño del sistema "permitió la desconexión prolongada de la tarea de conducción y habilitó al conductor a usarlo de formas inconsistentes con las guías y advertencias del fabricante".
En otras palabras: el sistema funcionó como estaba diseñado, pero el propio diseño —que toleraba minutos enteros con las manos fuera del volante— fue señalado como factor contribuyente.
Qué criterio quedó
La lectura simple del caso es "la responsabilidad fue del conductor, no del fabricante". Es correcta en su resultado —no hubo declaración de defecto del producto, y Tesla había advertido que el sistema requería supervisión permanente—, pero incompleta. El caso también dejó sentado que el diseño de la interfaz hombre-máquina puede ser fuente de responsabilidad: un sistema que permite físicamente un uso que sabe peligroso no queda exento solo por haberlo advertido en el manual.
La respuesta de Tesla lo confirma indirectamente. Tras el accidente modificó Autopilot para que, si el conductor ignora reiteradamente las alertas, el sistema se desactive y no pueda reiniciarse durante el viaje. Cambiar el diseño para impedir el mal uso es un reconocimiento tácito de que la advertencia, sola, no alcanzaba.
Por qué importa para el marco argentino
El caso enseña que, en niveles intermedios de automatización, el deber de supervisión sigue siendo del conductor, y su incumplimiento lo hace responsable. Es coherente con el análisis por niveles: mientras haya un deber de supervisar (niveles 0 a 3), el humano está en el centro de la imputación (ver Niveles SAE de conducción autónoma).
Pero el matiz de la NTSB anticipa el argumento que, en un litigio argentino, abriría la vía contra el fabricante: si el defecto no está en que el software "falle", sino en que su diseño habilita un uso previsiblemente peligroso, eso encuadra en la noción de producto que no ofrece la seguridad esperable —el terreno del artículo 40 de la Ley 24.240 que analizamos en la nota principal—.
¿Analizás un caso donde se discute el límite entre la responsabilidad del usuario y la del fabricante de un sistema? Escribinos.