Por qué los creadores de la IA de Tesla evitan sus robotaxis

La promesa de los vehículos autónomos ha capturado la imaginación de muchas personas, al igual que la promesa de un futuro donde las máquinas realicen tareas que antes eran exclusivas de los seres humanos. Sin embargo, la realidad detrás del desarrollo de esta tecnología, especialmente en el caso de los vehículos de Tesla, se está revelando como más complicada de lo que se anticipaba. A medida que surgen preocupaciones sobre la seguridad, las voces de quienes han trabajado en el corazón de esta innovación se vuelven cada vez más críticas.

Recientes declaraciones de exingenieros y analistas de datos de Tesla han puesto en entredicho las afirmaciones optimistas de la compañía sobre su sistema de conducción autónoma, el Full Self-Driving (FSD). Estos profesionales no sólo han expresado su desconfianza hacia la efectividad del FSD, sino que algunos han afirmado rotundamente que no se subirían a un vehículo que dependa de esta tecnología, revelando así una profunda crisis de confianza en su propia creación.

El análisis de los expertos sobre las fallas del sistema de Tesla

Las preocupaciones sobre la seguridad del FSD no provienen de meros críticos externos, sino de quienes han estado directamente involucrados en su desarrollo. Un grupo de siete exanalistas de datos ha compartido experiencias inquietantes sobre las deficiencias del sistema de Tesla. Estas afirmaciones no son menores, ya que subrayan la falta de confianza incluso entre aquellos que han colaborado en el diseño de la inteligencia artificial que impulsa estos vehículos.

Las críticas apuntan a varios aspectos críticos del sistema:

• Zonas de construcción: Los vehículos han tenido problemas para navegar correctamente en áreas con obras, lo que ha llevado a situaciones potencialmente peligrosas como el peligro de atropellar a trabajadores.
• Peligro para peatones: Se han documentado incidentes donde los vehículos casi atropellan a niños y transeúntes, lo que genera serias dudas sobre la capacidad de la IA para detectar y reaccionar ante humanos en la carretera.
• Errores en rampas de salida: El sistema ha fallado en detenerse adecuadamente al salir de las autopistas, lo que ha resultado en colisiones significativas.
• Ignorancia de señales de tráfico: Hay múltiples reportes de vehículos que no se detuvieron ante semáforos en rojo, poniendo en riesgo tanto a sus ocupantes como a otros conductores y peatones.

Tabla: Análisis de la seguridad del FSD y sus implicaciones

Métrica de Seguridad	Descripción del Problema	Estatus de Auditoría Federal	Consecuencias en Seguridad Vial
Monitoreo de Entorno	Fallas graves en la detección de peatones y vehículos de emergencia.	4 investigaciones activas por parte de la NHTSA.	Intervenciones humanas necesarias para evitar accidentes fatales.
Condiciones Meteorológicas	El sistema presenta fallos en condiciones de baja visibilidad.	Investigaciones en curso sobre incidentes fatales.	La información visual de las cámaras es deficiente en climas adversos.
Desempeño en Rutas Públicas	Dependencia de rutas previamente mapeadas para demostraciones.	Cuestionamientos sobre la validez de los datos presentados.	Los resultados en pruebas no reflejan la realidad en vías públicas.
Control de Información	Acceso restringido a información sobre fallos severos.	Demandas de transparencia en las actualizaciones del software.	El personal carece de información completa sobre los riesgos.

La creciente supervisión federal y sus implicaciones para Tesla

El panorama se complica aún más con el aumento de la supervisión federal sobre Tesla. La Administración Nacional de Seguridad del Tráfico en las Carreteras (NHTSA) ha intensificado su investigación sobre la efectividad del FSD, especialmente en casos donde los vehículos no responden adecuadamente a situaciones críticas, como la presencia de vehículos de emergencia o condiciones climáticas difíciles.

Un ingeniero veterano de la empresa ha calificado las afirmaciones optimistas de Tesla sobre la seguridad de su tecnología como una “farsa”, alegando que hay un sesgo metodológico en cómo se reportan y analizan los accidentes. Esta falta de transparencia puede tener consecuencias significativas no solo para la reputación de Tesla, sino también para la confianza pública en la tecnología de conducción autónoma en general.

Preguntas frecuentes sobre las fallas del sistema de Tesla

¿Por qué los exempleados no denunciaron estos errores antes?

Los exanalistas han señalado que los altos mandos de Tesla controlan estrictamente el acceso a las grabaciones de video para que cada empleado vea solo fragmentos de información, lo que impide una comprensión global de los problemas y riesgos del sistema.

¿Cuál es la respuesta de Tesla a estas críticas?

La dirección de Tesla argumenta que un sistema FSD completamente refinado podría ser el motor de su crecimiento futuro. Se presenta como una alternativa económica a un conductor personal, lo que podría atraer a un amplio público que busca la conveniencia de la conducción autónoma.

¿Las demostraciones públicas reflejan la realidad del FSD?

No necesariamente. Los ex trabajadores han indicado que las presentaciones públicas son cuidadosamente preparadas y que las rutas utilizadas han sido entrenadas exhaustivamente, lo que no representa el verdadero desempeño del sistema en un entorno de tráfico real.

Aún no está al 100%

El sueño de un futuro con vehículos autónomos que nos lleven sin intervención humana está lejos de ser una realidad. Las confesiones de ingenieros que han trabajado en la inteligencia artificial de Tesla revelan que ni ellos estarían dispuestos a confiar en esta tecnología en su estado actual. La filtración de información sobre los fallos del FSD tira por tierra la narrativa optimista de Silicon Valley y subraya que un sistema que depende únicamente de cámaras está muy lejos de ser seguro.

La idea de reemplazar conductores humanos por algoritmos que aún no logran distinguir entre una zona de obras y un cruce peatonal es peligrosa. Si los vehículos autónomos de Tesla se basan en datos manipulados y en escenarios ensayados, la promesa de una revolución automotriz puede ser más ficticia que real. Por ahora, el control manual sigue siendo necesario, y la visión de un pilotaje completamente autónomo parece, por el momento, una ilusión defectuosa.

Si quieres conocer otros artículos parecidos a Por qué los creadores de la IA de Tesla evitan sus robotaxis puedes visitar la categoría IA.