Enrique Dans

Cada vez que surge una conversación sobre coches autónomos, aparece alguien blandiendo alguna de las variaciones del famoso dilema del tranvía como si fuera un argumento decisivo. Y no falla: la misma simplificación infantil, la misma reducción al absurdo, el mismo «¿y si el coche tiene que decidir entre matar a una anciana o a un niño?»

Por favor: aparquemos de una vez el maldito tranvía. Ese experimento mental, planteado en los años ’60 para discutir intuiciones morales, no tiene absolutamente nada que ver, ni la más mínima relación con cómo funcionan los sistemas de conducción autónoma. Usarlo para discutir su seguridad es una señal inequívoca de cuñadismo, de que no se ha dedicado ni siquiera un mínimo esfuerzo a entender la tecnología.

En el mundo real, nunca, jamás, bajo ningún concepto ningún ingeniero va a programar un coche para «decidir quién vive y quién muere» en un accidente. Eso simplemente no ocurre ni va a ocurrir. Ni en Waymo, ni en Cruise, ni en Tesla, ni en ningún laboratorio serio del planeta. Mientras seguimos discutiendo dilemas filosóficos irrelevantes, los coches autónomos ya llevan millones de kilómetros recorridos en más de treinta ciudades de todo el mundo, con tasas de accidentes sistemáticamente más bajas que las de los conductores humanos.

Dejémonos de simplezas, por favor. El dilema del tranvía es dicotómico porque está diseñado para generar un conflicto moral extremo; la conducción autónoma, en cambio, consiste precisamente en evitar que la realidad se acerque a ese absurdo. Los vehículos analizan trayectorias, frenan, corrigen, replanifican rutas y aplican controles dinámicos que buscan siempre una cosa: minimizar el daño y evitar la colisión. No hay palancas, no hay vías alternativas, no hay sacrificios preprogramados de ningún tipo. Eso solo existe en la calenturienta imaginación de quienes no tienen ni maldita idea de lo que hablan.

De hecho, la literatura especializada señala que la premisa básica del tranvía, una pérdida inevitable ya asumida, no se sostiene en los sistemas de conducción automatizada: la mayoría de decisiones reales consisten en manejar incertidumbres, aplicar controles de frenado y replantear trayectorias para evitar colisiones siempre que sea posible, no en «seleccionar» vidas para sacrificar. La idea de un algoritmo supuestamente analizando la edad de las posibles víctimas o quién ha pagado más y eligiendo a quien matar es tan ridícula como patética.

El problema del tranvía simplemente no aparece jamás en escenarios prácticos de conducción autónoma, y suponer que hay que programar un algoritmo moral para decidir víctimas es una mala interpretación de cómo funcionan los sistemas de planificación y control. Pero la prevalencia de esta discusión absurda ha hecho que incluso haya voces académicas que han debatido ésta cuestión: no tecnólogos de andar por casa, sino expertos en ética y tecnología, que argumentan que la analogía es engañosamente simplista y no sirve como marco para pensar en la ética real de los vehículos autónomos. El paradigma del tranvía se basa en escenarios binarios que no reflejan la variedad infinita de opciones posibles en el mundo real, donde los coches cuentan con sensores, modelos dinámicos y tiempo de cálculo para intentar soluciones que reduzcan el daño sin necesidad de binarismo moral.

Que se siga hablando de estas supuestas «decisiones de vida o muerte» desconectadas de la realidad técnica y como supuesta «objeción» a la conducción autónoma no es una curiosidad académica: desvía la atención de los verdaderos retos éticos y normativos, como la responsabilidad legal, la asignación de culpa en fallos complejos y la desigualdad de acceso a tecnologías más seguras.

El famoso experimento Moral Machine del MIT, del que muchos han oído hablar como si fuera algún tipo de «prueba real» de cómo programar un Tesla o un Waymo, no dice nada sobre decisiones que los coches autónomos de verdad toman en tiempo real. Es simplemente un ejercicio de opinión pública sobre dilemas hipotéticos, con millones de respuestas que reflejan más prejuicios culturales que realidades de ingeniería. Los resultados van desde simples sesgos culturales y prejuicios hasta intuiciones contradictorias, y es simplemente sociología, no ingeniería. No existe ni un solo coche autónomo en el mundo que utilice algo remotamente parecido a esos criterios.

Y lo más importante: jamás se ha programado ni una sola línea de código para decidir quién vive o quién muere. Los coches autónomos hacen lo que cualquier humano razonable intentaría hacer en una emergencia, pero con mayor anticipación y precisión: frenar todo lo posible, maniobrar todo lo posible y evitar cualquier colisión que pueda evitarse. Eso es todo. No hay «jerarquías de víctimas», no hay dilemas éticos dramatizados, no hay «algoritmos morales». Lo demás es ficción filosófica convertida en arma arrojadiza por quienes no han entendido nada.

Seguir usando el dilema del tranvía para criticar los coches autónomos no es solo ridículo: es contraproducente, entre otras cosas para la imagen pública de quien lo hace. Nos aleja del debate real, infantiliza la discusión pública y revela una profunda falta de comprensión sobre la tecnología. Si de verdad queremos hablar de ética y coches autónomos, dejemos de lado el argumento más gastado, simplón y desconectado de la realidad. En serio: aparquemos de una vez el maldito tranvía y empecemos a pensar con un poco más de rigor.

This article is also openly available in English on Medium, «Park the trolley and let’s address the real ethical questions of self-driving cars»