Parece que en el mundo de ir automatizando las cosas no todo es tan sencillo. La semana pasada un automóvil con piloto automático a producido la primera víctima mortal. Obviamente para que los pocos vehículos con piloto automático que existen hayan producido la primera víctima mortal, estos tuvieron que recorrer 250 millones de kilómetros… cosa que con los vehículos convencionales, se hace una estimación que cada 100 millones de kilómetros recorridos ocurre un accidente. De todas formas, como es la primera vez que ocurre, se pone en duda hasta que punto el piloto automático es una buena idea en un coche.

Ahora bien, indagando un poco en el funcionamiento del piloto automático, en condiciones normales el ordenador simplemente conduce el coche para llegar al destino fijado, apoyándose de una serie de sensores, GPS, etc. Y en efecto es algo que está empezando a funcionar realmente bien. Pero estos sistemas de piloto automático tienen programados también las soluciones a imprevistos durante la conducción.

¿Que quiero decir con imprevistos durante la conducción? Accidentes o situaciones que potencialmente puedan desencadenar en un accidente fatal. En este caso, el coche bajo todas las circunstancias va a evaluar la situación y realizar la maniobra más apropiada para evitar el accidente o reducir su impacto. El problema viene en que cuando es inevitable el coche tratará de reducir el impacto del accidente y esto no se refiere solo al impacto físico. El coche considera que en si mismo no tiene valor, hasta ahí bien, pero tu vida tiene un valor y la vida de terceras personas que el coche detecte también tiene un valor. Si el valor de terceras personas es mayor que el valor de los pasajeros el coche tomará la decisión más apropiada para evitar la muerte de terceras personas aunque pueda acabar ocasionando la muerte de los pasajeros del coche.

Este sistema de evitar accidentes o reducir su impacto está además implementado en coches que carecen de piloto automático pero si tienen sensores para detectar apropiadamente que ocurre en su entorno con el fin de corregir o evitar accidentes.

El MIT tiene un artículo (en inglés) donde hablan acerca del concepto de «moralidad» para este tipo de conducción asistida o automática.