En una oficina de Utah, cientos de trabajadores de Tesla examinan vídeos recogidos por vehículos utilizando la función de Conducción Autónoma Completa (FSD) del fabricante. Algunos vídeos muestran coches atropellando gatos, perros o ciervos, junto con accidentes más rutinarios. A veces, no frenan antes del impacto. A menudo, aceleran. De vez en cuando, los trabajadores ven a niños jugando en la calle que casi no se veen.
Conocidos como “etiquetadores de datos”, estos empleados entrenan el software de asistencia al conductor impulsado por IA de Tesla. Anotan incidentes de buena y mala conducción y escalan los problemas a los ingenieros que trabajan para mejorar el sistema.
El CEO de Tesla, Elon Musk, dice que FSD pronto hará que todos los Teslas sean totalmente autónomos. Pero entrevistas con nueve antiguos fabricantes de etiquetas y un antiguo ingeniero autónomo de Tesla muestran que la tecnología siguió teniendo dificultades en los últimos meses para ejecutar maniobras básicas, como evitar vehículos de emergencia o detenerse para que los autobuses escolares cargaran o bajaran a los estudiantes.
A pesar de estas deficiencias tan peligrosas, Musk y otros ejecutivos han defendido cada vez más la seguridad de FSD mientras presionaban a Tesla para que realizara demostraciones públicas de la capacidad totalmente autónoma que el CEO ha prometido a los inversores cada año durante una década. Las exposiciones incluyen un piloto de robotaxi en Austin, Texas, lanzado el pasado junio con algunos monitores de seguridad humana en los coches y otros trabajando de forma remota.
Dentro de Tesla, a medida que se acercaban estos eventos, el personal trabajaba largas horas cartografiando rutas y entrenando el software sobre peligros específicos para que la tecnología de conducción autónoma de la compañía pareciera más capaz de lo que realmente es, dijeron a Reuters cuatro de los antiguos empleados de Tesla. Los empleados dijeron que estas salvaguardas intensivas en mano de obra son imposibles de aplicar a gran escala.
Estos esfuerzos, que no se habían informado previamente, socavan la afirmación largamente reiterada de Musk de que la tecnología de conducción autónoma de Tesla pronto funcionará en cualquier lugar del mundo y no requerirá el mismo laborioso mapeo local de carreteras y peligros que emplean los rivales. Musk ha dicho que Tesla adopta un enfoque más sencillo, confiando únicamente en cámaras e inteligencia artificial, lo que le permitirá ampliar su servicio de robotaxi a una velocidad “hiperexponencial” y ofrecer a los actuales propietarios de Tesla total autonomía mediante actualizaciones de software.
Musk y otros líderes de Tesla han reforzado la impresión de competencia en robos citando estadísticas de seguridad de empresas que, según ellos, demuestran que el FSD ya es hasta 10 veces más seguro que los conductores humanos.
Un análisis de Reuters sobre la metodología estadística de Tesla y entrevistas con fuentes internas de la empresa muestran que Tesla está lejos de entregar vehículos autónomos de forma segura a gran escala, una promesa central que sustenta el valor bursátil de 1.6 billones de dólares del fabricante.
El examen incluyó un análisis de Reuters sobre cómo Tesla compara sus propios datos de accidentes con los datos federales de accidentes; una revisión de la metodología relativamente rigurosa empleada por el competidor de robotaxi Waymo; y entrevistas con 11 investigadores en seguridad viaria que revisaron la metodología de Tesla para Reuters. La revisión encontró varias comparaciones de datos inválidas que sustentaban las estadísticas del informe de seguridad FSD de Tesla, que 10 investigadores calificaron como un marketing engañoso en lugar de una investigación seria sobre un problema crítico de seguridad.
Tesla, por ejemplo, exagera la seguridad de la tecnología comparando una tasa de accidentes en Teslas pilotados por FSD que provocaron despliegue de airbags con una tasa federal de accidentes para todos los vehículos que incluye accidentes mucho menos graves. La compañía también compara sus coches con el vehículo medio estadounidense, que es mucho más antiguo que el Tesla medio. Esto distorsiona los resultados porque todos los fabricantes han lanzado recientemente nuevas medidas de seguridad que reducen los accidentes, según los investigadores.
“Cualquier coche nuevo es mucho más seguro que uno de 12 años”, dijo Phil Koopman, profesor de ingeniería de la Universidad Carnegie Mellon y experto en seguridad de vehículos autónomos. “Es como decir: ‘Mi avión a reacción es más rápido que tu bombardero de la Segunda Guerra Mundial.’ Sí, entonces, ¿cuál es tu punto?”
Tesla no respondió a las preguntas detalladas de Reuters sobre este informe.
El director financiero de Tesla, Vaibhav Taneja, hizo por primera vez la afirmación de que es diez veces más segura el pasado julio, tras el lanzamiento del robotaxi Austin de Tesla. La presidenta del consejo de Tesla, Robyn Denholm, lo repitió en una reunión de noviembre donde los accionistas aprobaron un paquete salarial que otorgaba a Musk hasta 1 billón de dólares en acciones de Tesla. Musk, en la misma reunión, mostró un gráfico con la afirmación algo más modesta de “85% menos de accidentes”, basado en la metodología recientemente revisada de Tesla.
“Casi nos sentimos cómodos permitiendo que la gente envíe mensajes mientras conduce, que es la app que más o menos la mata”, dijo Musk a los accionistas. “En el próximo mes o dos – vamos a analizar detenidamente las estadísticas de seguridad – pero básicamente te permitiremos enviar mensajes mientras conduces.”
Seis meses después, Tesla no ha aprobado enviar mensajes de texto y conducir con FSD. La letra pequeña en su página web FSD sigue advirtiendo: “Las funciones actualmente habilitadas requieren supervisión activa del conductor y no hacen que el vehículo sea autónomo.” Tesla ha citado a menudo estos avisos cuando se le demanda por accidentes graves.
El FSD es ampliamente considerado capaz de navegar muchas situaciones de conducción, a veces durante largos periodos. Pero la autonomía total ha resultado esquiva para Tesla y otras compañías, ya que exige una ejecución impecable por parte de la tecnología, incluso en los escenarios de conducción más complejos.
Siete de los antiguos etiquetadores de datos dijeron a Reuters que no confiarían en FSD para impulsarlos. “Todos lo hemos visto fracasar”, dijo uno. Otro dijo que no iría en un robotaxi Tesla “aunque me pagaras de una puta vez”. Un veterano ingeniero de conducción autónoma, que revisó los datos de accidentes de Tesla durante años, calificó sus afirmaciones de seguridad como “una tontería”.
Te puede interesar: El lanzamiento del robotaxi de Tesla de Elon Musk parece un desastre inminente
“Definitivamente”, dijo el ingeniero, “no confíes en Elon en esto.”
Los etiquetadores de datos de Tesla obtienen una vista cercana de las capacidades del FSD mientras revisan imágenes de vehículos equipados con ocho cámaras exteriores.
Los antiguos empleados informaron de ver regularmente a FSD fallar en tareas básicas, como detenerse para vehículos de emergencia y dar suficiente espacio a los motoristas. A veces, vieron vehículos pilotados por FSD fallar en frenar en las salidas de autopista, incluyendo un caso en el que un Tesla chocó contra un muro de hormigón. (Las imágenes, decían, no mostraban si alguien resultaba herido.) Dos empleados dijeron que los vídeos mostraban que el FSD no lograba evitar las zonas de construcción. En uno de esos incidentes, un Tesla entró en la zona, casi haciendo huelga a los trabajadores, dijo una de las personas.
Reuters no revisó los vídeos; Este relato se basa en las descripciones que los antiguos empleados han visto de las grabaciones que vieron.
Dentro de Tesla, los directivos controlaban cuidadosamente el acceso a los vídeos. Como los empleados solo ven los clips que les asignan, pueden o no ver los peores fallos del FSD.
Un equipo de etiquetado de datos se centró en los casi accidentes de peatones, según tres empleados. Conocidos informalmente como el “equipo de trauma”, según una fuente, estos empleados trabajaban en Palo Alto, California, con permisos especiales para ver las imágenes. Los ingenieros vigilaban de cerca los clips del equipo de trauma, pero algunas imágenes ocasionalmente “se colaban” a otros equipos, dijo la persona.
La persona y otro empleado dijeron que vieron clips en los que los conductores tomaban el control manualmente en el último segundo cuando el FSD no reconocía a los peatones en los pasos de peatones. Otros dos exempleados recordaron haber visto el año pasado vídeos de Teslas pilotados por FSD casi atropellando a niños.
Tesla ha enfrentado durante años investigaciones federales y demandas relacionadas con accidentes, incluidas muertes, que conductores o reguladores culparon a fallos del FSD o de su antiguo sistema avanzado de asistencia al conductor Autopilot.
La Administración Nacional de Seguridad del Tráfico en las Carreteras de EE. UU. (NHTSA) abrió una investigación sobre Autopilot en 2021 tras una serie de colisiones en las que Teslas impactaron vehículos de emergencia. La investigación llevó a una retirada en 2023 en la que Tesla instaló actualizaciones de software para detectar mejor cuándo los conductores dejan de prestar atención y alertarles.
La NHTSA tiene cuatro investigaciones activas sobre FSD y Autopilot, incluyendo una que involucra decenas de casos en los que vehículos que usan FSD no se detuvieron en los semáforos en rojo o se dirigieron hacia el tráfico que venía en sentido contrario. Otro pregunta si las mejoras de Tesla en 2023 a Autopilot fueron suficientes para solucionar los problemas de seguridad. La agencia también está investigando al menos nueve incidentes relacionados con el FSD, incluido un accidente mortal, en el que el sistema falló debido a la menor visibilidad en condiciones como niebla o resplandor solar.
El año pasado, Tesla fue víctima de un fallo de 243 millones de dólares tras un accidente de un Tesla con piloto automático en Florida, que mató a una mujer de 22 años y dejó gravemente herido a su novio. Tesla ha apelado. La empresa ha resuelto varios casos similares relacionados con accidentes graves sin revelar los términos.
Cuando Reuters le preguntó, la NHTSA no abordó los hallazgos de esta historia sobre la seguridad de los FSD y la metodología de Tesla. La agencia remitió las preguntas sobre las afirmaciones de seguridad de Tesla a la Comisión Federal de Comercio de EE. UU. (FTC).
La FTC declinó hacer comentarios sobre las estadísticas de seguridad de Tesla. Algunos grupos de defensa del consumidor y senadores estadounidenses han pedido a la FTC que investigue la comercialización de Autopilot y FSD por parte de Tesla.
La FTC no ha presentado acciones de cumplimiento contra Tesla.
Mientras los empleados de Tesla veían vídeos de los errores de FSD, el consejo de administración y el CEO intensificaron sus afirmaciones sobre la seguridad de la tecnología y su preparación para la plena autonomía. Durante gran parte del año pasado, los líderes de Tesla promovieron la afirmación de diez veces más segura.
“Un coche en FSD siendo 10 veces más seguro” impulsará las ventas, dijo Taneja, director financiero de Tesla, en una conferencia de resultados de julio. “Incluso por 99 dólares al mes, es como si tuvieras un chófer personal por casi 3.33 dólares al día.”
Un problema clave de la metodología de Tesla surge de un error de comparación que infló el nivel de seguridad declarado por Tesla por un factor de tres. El fabricante contó los accidentes de Tesla con despliegue de airbags y los comparó con datos federales de todos los accidentes en los que una grúa retiró un vehículo, un criterio mucho menos restrictivo. Los accidentes que requieren grúas a menudo no son lo suficientemente graves como para activar airbags.
Tesla adoptó este enfoque de manzanas y naranjas aunque las manzanas estaban fácilmente disponibles para comparar: los datos federales que utilizó incluían accidentes en los que se activaron airbags. Esta metodología defectuosa produjo la conclusión de que los Teslas que usan FSD o Autopilot viajan 10 veces más lejos entre accidentes que el conductor humano medio.
La comparación más válida —usando accidentes con airbags para Teslas y todos los demás coches— encuentra que los Tesla que usan sistemas de asistencia al conductor viajan aproximadamente tres veces más distancia entre accidentes donde se desplegaron airbags, según un análisis realizado para Reuters por Marco Benedetti, investigador adjunto en el Instituto de Investigación en Transporte de la Universidad de Michigan y antiguo estadístico de la NHTSA. Otros dos investigadores de seguridad vial revisaron los cálculos de Benedetti y estuvieron de acuerdo con los hallazgos.
Lee también: El despliegue de robotaxis de Tesla cuenta con tiempos de espera muy grandes
Pero eso no significa que el FSD sea realmente tres veces más seguro que el conductor medio, dijo Benedetti, debido a varios otros fallos en la metodología de Tesla.
Tesla ajustó su enfoque en noviembre para incluir solo datos de vehículos que usan FSD y excluir aquellos con Autopilot. Incluir Autopilot había aumentado los kilómetros declarados por Tesla entre accidentes porque es un sistema menos sofisticado pensado solo para autopistas, donde los coches acumulan kilómetros y chocan mucho menos que en las calles urbanas. Sin embargo, la compañía sigue utilizando la comparación defectuosa de accidentes de airbags en su página web para afirmar que el FSD es siete veces más seguro que el conductor humano medio, o aproximadamente un 85% más seguro expresado como un porcentaje de cambio.
Varias otras mediciones defectuosas empleadas por Tesla ponen en duda si el FSD es realmente más seguro, según Reuters.
El fabricante de automóviles, por ejemplo, no tiene en cuenta la antigüedad de los vehículos al comparar la tasa de accidentes de sus coches con la tasa nacional. Tesla compara sus vehículos —que tienen de media solo 4.1 años según datos de S&P Global Mobility— con todos los vehículos estadounidenses, que tienen una edad media de 12.8 años. Eso distorsiona los resultados, dijeron 10 investigadores de seguridad a Reuters, porque casi todos los fabricantes han empezado más recientemente a ofrecer características de seguridad revolucionarias, incluyendo monitorización de ángulo ciego y frenado automático de emergencia, en toda su gamma.
Tesla también reduce su recuento de accidentes contando solo los accidentes que ocurren con el FSD activado o dentro de los cinco segundos posteriores a que la función se desactive. El gobierno de EU, en cambio, exige que los fabricantes de automóviles informen de los accidentes ocurridos en un plazo de 30 segundos tras la desactivación de un sistema avanzado de asistencia al conductor.
Tesla afirma que el FSD podría salvar más de 32,000 vidas y prevenir más de 1.9 millones de lesiones anuales. Algunos investigadores de seguridad vial calificaron esas cifras de insignificantes porque se basan en la suposición poco realista de que todos los vehículos estadounidenses, incluidos camiones de carga y motocicletas propensos a accidentes, serían reemplazados por un Tesla con FSD – y que cada coche Tesla es, de hecho, al menos siete veces más seguro que el que reemplaza.
La premisa de las estadísticas de seguridad de Tesla también es errónea porque el FSD no es un sistema verdaderamente autónomo, dijeron 10 investigadores de seguridad vial. Tesla no está comparando su tecnología con la de los conductores humanos, como dicen los ejecutivos. En cambio, el fabricante está comparando al conductor humano medio con otro humano promedio: uno que conduce un Tesla usando FSD.
Tesla tampoco tiene en cuenta que estos conductores pueden activar y desactivar el FSD, y las investigaciones muestran que los conductores a menudo evitan usar sistemas avanzados de asistencia al conductor en situaciones complicadas de tráfico donde la tecnología les resulta insegura. Los propios datos de Tesla muestran que el FSD se utiliza principalmente en autopistas.
Waymo de Alphabet, en cambio, compara su robotaxis totalmente autonomo, ahora desplegado en 11 áreas metropolitanas de EU, con vehículos conducidos por humanos en condiciones similares.
Waymo adopta un enfoque más riguroso que Tesla, examinando los datos de accidentes en los mercados donde opera y ajustando según los tipos de carreteras y barrios que atraviesan sus robotaxis. Waymo se centra en tasas específicas de accidentes —como las que se activan airbags o lesiones graves— tanto para sus coches como para coches conducidos por personas en los mismos mercados.
“Tenemos que tener mucho cuidado con el lenguaje que usamos”, dijo John Scanlon, investigador de seguridad de Waymo. “Necesitas preguntas de investigación muy concretas y conclusiones muy concretas.”
Waymo también señala deficiencias en sus datos y colabora con investigadores externos para publicar sus estadísticas de seguridad en revistas revisadas por pares.
Tesla, en cambio, no busca revisión por pares y solo publica afirmaciones estadísticas de seguridad de primer nivel, manteniendo en secreto sus datos subyacentes de accidentes para coches Tesla.
Dentro de Tesla, los etiquetadores de datos tienen una visión sin adornos de la seguridad FSD. Tres exempleados describieron varios vídeos en los que los Tesla no reconocían a los animales y los atropellaban a gran velocidad, sin frenar.
Cinco exempleados dijeron que equipos específicos se centraron en los problemas del FSD para reconocer autobuses escolares. Esa es una preocupación planteada por un grupo de seguridad tecnológica llamado Dawn Project, que emitió anuncios durante las Super Bowls de 2023 y 2024 mostrando vídeos de Teslas con FSD que no se detienen para autobuses con señales de stop y luces intermitentes.
Lee: Waymo retira 3,800 robotaxis por el riesgo de entrar en carreteras inundadas
Dos exempleados dijeron haber visto vídeos similares dentro de Tesla.
Cinco antiguos etiquetadores de datos describieron un entorno laboral acelerado y desarticulado, con prioridades que cambiaban según las directrices de los ingenieros de Musk y FSD. La unidad de etiquetado de datos tenía problemas con la rotación crónica debido al trabajo monótono y al salario generalmente bajo, según dijeron.
Los altos cargos de Tesla a menudo lanzaban nuevos proyectos en reacción a informes de noticias o publicaciones en redes sociales que mostraban errores de FSD, dijeron cuatro exempleados.
Uno describió un esfuerzo para abordar cómo la luz solar podía ocultar las cámaras exteriores de los coches. Esto fue provocado por un vídeo en redes sociales que mostraba cómo la luz reflejada en el reloj de un pasajero cegó una de las cámaras, apagando el FSD. Otro intento en pasos a nivel ferroviarios siguió a informes de noticias sobre Teslas impulsados por FSD que no lograban detenerse en ellos.
Los clips del FSD también mostraban regularmente exceso de velocidad, dijeron cinco empleados, que los ingenieros y otros superiores trataban como un problema de baja prioridad.
Un empleado dijo que los responsables de etiquetas veían que los Tesla superaban regularmente los límites de velocidad entre 20 y 30 millas por hora después de que el fabricante introdujera un modo FSD “Mad Max” que permitía una conducción más agresiva. Otro etiquetador informó haber visto un vehículo pilotado por FSD circulando a 60 mph en una zona de 25 mph.
Mientras los empleados de Tesla luchaban por entrenar el FSD, Musk destacó las capacidades de conducción autónoma de Tesla en octubre de 2024 en una llamativa presentación de robotaxi en el estudio de Warner Bros. cerca de Los Ángeles. El público, solo por invitación, aplaudió mientras Musk señalaba unos 20 prototipos del “Cybercab” de dos puertas, que no tiene volante ni pedales, arrastrándose por el estudio.
“Los coches simplemente pasan, sin gente”, dijo.
Musk ha dicho que el software de Tesla está diseñado para funcionar en cualquier lugar, navegando por paisajes desconocidos en tiempo real. Pero durante las semanas previas al evento Cybercab, el personal probó los prototipos cada noche desde las 6 p.m. hasta el amanecer, recopilando vídeos de la ruta que seguirían los coches en el lanzamiento, según dos antiguos empleados de etiquetado de datos. Los responsables de etiquetas pasaron cientos de horas anotando bordillos y marcas de tráfico en el vídeo para evitar incidentes embarazosos, según los empleados.
Waymo realiza este tipo de mapeo a gran escala antes de lanzarse en ciudades concretas, un enfoque que Musk ha descartado repetidamente por considerarlo demasiado costoso y lento. En 2024, Musk ridiculizó las “soluciones muy localizadas” de Waymo calificándolas de “bastante frágiles”.
Tras el evento de Warner Bros., Musk declaró en una rueda de resultados en enero de 2025 que Tesla lanzaría robotaxis en junio de 2025 en Austin. Promocionó la tecnología como una “solución generalizada de IA” que no requería “mapas de alta precisión de una localidad.”
Sin embargo, durante meses antes del lanzamiento de Austin, Tesla filmó extensamente largometrajes en una zona limitada de robotaxi para mapear la zona, capturando semáforos, señales de tráfico y otros elementos. Los etiquetadores de datos anotaron ese vídeo para asegurar que el software pudiera manejar escenarios complicados, incluyendo la recogida de pasajeros y la respuesta a vehículos de emergencia, según dos empleados con conocimiento directo del asunto.
El personal de etiquetado de datos en Utah, según tres empleados, se duplicó en el semestre previo al lanzamiento en Austin, alcanzando unos 300 trabajadores. El departamento, dijeron, trabajó principalmente en proyectos para que la prueba de Austin, cuidadosamente controlada, transcurriera sin problemas.
Mientras los etiquetadores de datos de Tesla se preparaban para el despliegue, el software seguía siendo errático, dijeron dos empleados. Con cada actualización del FSD, algunos comportamientos de conducción mejoraban. Otros empeoraran. En la oficina de Utah, dos grandes pantallas mostraban estadísticas de kilómetros entre intervenciones de conductores para el FSD, una métrica clave de seguridad para la conducción autónoma.
“Subía y bajaba como la bolsa” sin una mejora constante, dijo uno de los exempleados.
Los vehículos salen a la calle con dos conjuntos de monitores de seguridad humana disponibles para tomar el control: uno sentado en el asiento delantero del copiloto y otros vigilando a distancia. En Utah, los etiquetadores podían ver en los vídeos cuando los monitores remotos tomaban el control de los vehículos. Un exempleado dijo que las rutas de Austin estaban diseñadas para un área limitada, de modo que el software de los coches pudiera entrenarse extensamente en maniobras específicas en calles concretas.
“Fue como, ‘Vale, hemos entrenado un coche'” para que operara en una zona restringida, dijo la persona. “No puedes ser creativo fuera de eso.”
Cuatro de las fuentes afirmaron que escalar de forma segura podría llevar años. En julio, un mes después del lanzamiento del robotaxi Austin, Musk predijo que el servicio se ampliaría para atender a la mitad de la población estadounidense antes de finales de 2025.
En enero, Musk afirmó falsamente que Tesla operaba 500 “vehículos robotaxi” en Austin y el Área de la Bahía de San Francisco, añadiendo que esperaba que “se duplicaran cada mes” en una “curva exponencial”. Musk ha dicho que Tesla opera un “servicio de robotaxi” en el Área de la Bahía cuando en realidad solo opera un servicio de transporte por llamada bajo permiso estatal, normalmente utilizado por conductores, que requiere un conductor humano.
En realidad, casi un año después del lanzamiento del Austin, Tesla sigue operando solo unos 50 robotaxis allí, según una reciente presentación de diapositivas de funcionarios municipales. Los vehículos atraviesan una zona limitada y cuidadosamente cartografiada, según tres de las fuentes. Algunos aún cuentan con monitores de seguridad humana en el asiento delantero del pasajero, según observaciones recientes de un reportero de Reuters.
En abril, Tesla anunció que estaba desplegando robotaxis en Dallas y Houston, junto con mapas que mostraban las áreas atendidas.
Los periodistas de Reuters que probaron recientemente el servicio en ambas ciudades encontraron largos tiempos de espera y disponibilidad errática. En tres ocasiones, cuando un periodista consiguió un viaje en Dallas, el robotaxi no le dejó en su destino en el centro, dentro del área de servicio anunciada por Tesla.
Cada vez, le dejaba a unos 15 minutos andando.
Con información de Reuters
