En el año 2009 fui parte de un sentimiento colectivo de emoción por parte de la comunidad mecatrónica y científica mexicana, la razón de esto fue que un científico mexicano, el Dr. Raul Rojas junto con su equipo de investigación de la Freie Universität Berlin, logró que un vehículo autónomo transitara, con tripulación humana a bordo, para intervenir sólo en caso de error, por las concurridas calles de la capital alemana. 

Un tema que en el pasado había sido combustible para historias de ciencia ficción ahora se encontraba como un logro tecnológico presente y real, con un científico mexicano como líder del proyecto. Fue un momento de emoción como también de intriga y especulación acerca de qué implicaciones pudiera llegar a tener la implementación de esta tecnología dentro de nuestras vidas cotidianas. 

Hoy, diferentes industrias fabricantes de medios de transporte se han sumado al desarrollo, imparable, de vehículos autónomos. Empresas de los sectores aeronáutico, marítimo y automotriz se encuentran invirtiendo anualmente millones de dólares para el desarrollo y perfeccionamiento de sistemas para el manejo autónomo de vehículos. 

Pero mientras que en los sectores marítimo y aeronáutico la automatización ha ido enfocada hacia los vehículos no tripulados, en el sector automotriz ha sido completamente lo contrario. Tanto compañías automotrices grandes (Audi, BMW, Nissan, Mercedes-Benz), como también compañías de tecnologías diversas (Tesla, Uber, Google, Lockheed Martin, Leonardo Finmeccanica) se encuentran dentro de la carrera hacia la autonomía total en sus vehículos. Ya sean en el sector comercial, militar o civil la competencia es dura ya que todos quieren ser los primeros en implementar de manera eficaz estas tecnologías para el uso común.

Ventajas y controversias

La perspectiva en el mediano y largo plazo es que los coches autónomos se encargarían de eliminar gran parte de los problemas de tránsito actuales. Si los humanos no tuvieran control de los vehículos en los que se transportaran se estima que habría disminuciones drásticas en el tráfico, las emisiones contaminantes y los accidentes fatales. 

Son evidentes las ventajas de este tipo de sistemas ante sus contrapartes humanas: los coches autónomos no se cansan, no beben alcohol y manejan, no cuentan con emociones que nublen sus juicios, no “textean” al manejar, ni tampoco se distraen fácilmente con las cosas que ven en el camino. Aproximadamente 1.3 millones de personas mueren en accidentes de tránsito al año, 94% de estos accidentes que resultan en fatalidades se atribuyen a errores humanos. Y de no tomarse acciones drásticas, se estima que para el año 2030 los accidentes de tránsito se conviertan en la quinta causa de muerte en el mundo. Ante este panorama los coches autónomos se presentan cómo una solución óptima.  

El problema que presentan es que cuando un ser humano va manejando un vehículo y se ve expuesto a una situación peligrosa, las decisiones que tome en ese momento para evitar o evadir un accidente, independientemente del resultado de estas maniobras, se justifican como reacciones para preservar su integridad física, no como decisiones premeditadas ni maliciosas. Un vehículo autónomo ante la misma situación tendría que contar con protocolos pre-programados que le indicaran que “reacciones” tener ante cada situación específica, por lo cual sus acciones no podrían ser consideradas formalmente como reacciones, sino como decisiones deliberadas. Pongamos como ejemplo un popular caso hipotético para evidenciar la naturaleza del dilema: 

Se encuentra un coche autónomo, con dos pasajeros a bordo, manejando por una avenida. Una infortunada serie de eventos llevan al coche hacia un grupo de 10 personas cruzando la calle. Debido a su velocidad y las condiciones de la calle no puede frenar a tiempo para evitar una fatalidad. La única manera que encuentra el sistema de salvar a los 10 peatones es chocando el coche intencionalmente hacia una pared que hay al lado, pero con esto matando a sus dos pasajeros. ¿Cuál es la mejor solución? 

Si el sistema autónomo hubiera sido configurado con los principios éticos del utilitarismo su decisión muy probablemente sería matar a sus dos pasajeros para salvar a los 10 peatones. Propiamente una reducción del número de pérdidas humanas. Pero las cosas no son tan simples. ¿Qué pasaría si uno de los pasajeros fuera un niño pequeño? ¿O si los pasajeros del vehículo fueran personas “importantes”?  Incluso se puede especular acerca de qué pasaría si la decisión fuera con una relación de uno a uno. ¿Elegiría el coche sacrificar a su único pasajero para salvar la vida del peatón? 

Bajo cuáles criterios se debería basar esta decisión es lo controversial. ¿Acaso los coches de futuro deberán tener en cuenta los perfiles y características únicas de cada persona para poder decidir en tiempo real a cuál es más relevante salvar? Y de ser así ¿Quién o quienes serían los encargados de decidir cuales características vale más la pena salvar? Y bajo cuales criterios se deberían tomar estas decisiones. ¿Edad?, ¿estudios?, ¿condición médica?, ¿logros profesionales? Si la relación uno a uno fuera entre un viejo y un niño ¿se debería salvar al niño porque le quedan más años por vivir o al viejo por todo lo que ha aportado al mundo durante su vida? El debate moral cada vez se vuelve más complejo. 

Planteemos una segunda situación, similar a la que se planteó anteriormente, pero con sujetos diferentes:

Un coche autónomo con 2 pasajeros a bordo va manejando en carretera. En el carril de su izquierda va una camioneta con 4 pasajeros a bordo y en el carril de su derecha va una motocicleta con una sola persona. Inesperadamente cae un objeto que invade todo su carril, sin suficiente distancia para frenar, el sistema autónomo tiene que tomar una decisión: impactar el objeto para no involucrar a nadie más en el accidente a pesar de que esto signifique sacrificar a sus 2 ocupantes, evadir el objeto al chocar con la motocicleta y así salvar a sus 2 pasajeros a pesar de que esto signifique sacrificar al motociclista o evadir el objeto al chocar con la camioneta del carril izquierdo ya que está tiene una alta calificación de seguridad aunque hacer esto exponga a 4 personas adicionales a un accidente. 

¿Qué es lo que debería decidir el sistema? Los coches de hoy en día cuentan con muchos sistemas de seguridad para prevenir las fatalidades en caso de accidentes. Y a pesar de que la probabilidad de que este tipo de escenarios se presenten es muy baja, los vehículos autónomos deben estar preparados para saber cómo actuar ante estas situaciones.

 Pero quién debe ser el que establezca estos protocolos sigue en debate. ¿el gobierno los debería decidir? ¿las empresas fabricantes de vehículos autónomos? ¿O los usuarios deberían poder decidir cuál configuración elegir? Si llegaran a ocurrir accidentes de esta naturaleza en coches de alta autonomía ¿quién tendría la responsabilidad legal sobre la vida de las personas afectadas? ¿El gobierno por establecer las reglas o la empresa fabricante por crear el algoritmo que terminó decidiendo cómo actuar?

Un reciente estudio publicado en la revista Science muestra la preferencia de los usuarios por vehículos con programación ética basada en el utilitarismo: el 75% de los entrevistados del estudio respondieron que preferirían un vehículo que sacrificara a su pasajero para así salvar a 10 peatones. Aunque el mismo estudio mostró que los entrevistados no se encontraban de acuerdo con que los vehículos autónomos sacrificaran a su pasajero para salvar a un solo peatón en la relación uno a uno. No obstante, el estudió también mostró que, aunque los participantes estaban de acuerdo en que la programación basada en utilitarismo eran la más moral, seguirían prefiriendo viajar en un vehículo autónomo que protegiera al pasajero a cualquier costo. Y es que esto propicia la pregunta: ¿Quién estaría dispuesto a comprar un coche que potencialmente decidiera matarlo?

A pesar de que todo esto suene como un asunto de ficción ya existen precedentes reales en el tema: 

Joshua D. Brown era un ciudadano estadounidense dueño de un Tesla Model S: un coche eléctrico con un sistema autónomo de nivel 2 (el conductor debe estar listo para actuar ante cualquier imprevisto). El 7 de mayo del 2016 mientras se transportaba en su coche por una carretera de Williston, Florida, se vio involucrado en un accidente fatal.  Las investigaciones indican que al momento del choque el automóvil iba siendo manejado por el sistema autónomo, el cual falló en reconocer el remolque de un tráiler confundiéndolo con el brillo del sol, con esto impactando y matando involuntariamente a su único pasajero. La justicia estadounidense no ha determinado aún si la responsabilidad es de Tesla ya que su sistema falló o si la responsabilidad del choque fue culpa de Brown por no ir prestando atención al camino sabiendo que el sistema autónomo de su coche era nivel 2. Este lamentable suceso, que llamó mucho la atención de la prensa norteamericana, reabrió el debate y controversia acerca de este tipo de sistemas.

Aunque como en todo, nada es completamente bueno ni completamente malo. Hay otro caso que llamó la atención de la prensa también:

Joshua Neally es dueño de un Tesla Model X. Al igual que el Model S este coche también tiene un sistema autónomo de nivel 2. A finales de julio del 2016, Neally salió de su trabajo con dirección a su casa. El camino a su hogar incluía una parte de autopista, así que al incorporarse activó el sistema autónomo de su coche para que manejara ese tramo del camino. Durante el trayecto, Neally sufrió una embolia pulmonar, un padecimiento médico que puede llegar a ser mortal. En vista de la situación, decidió dejar que el sistema autónomo de su coche siguiera manejando durante 32 kilómetros hasta que se encontró cerca de un hospital a donde pudo ingresar de manera urgente. El sistema autónomo del coche potencialmente salvó su vida ya que al momento de la embolia pulmonar el dolor lo había incapacitado para seguir manejando. Estadísticamente se ha calculado que los coches autónomos reducirían en un 90% los accidentes viales, salvando muchas vidas con esto.

El factor psicológico

Se ha observado que un porcentaje de la población muestra aversión hacia los coches manejados por sistemas autónomos.  En el año 2015 un estudio publicado por Harris Poll mostro que 1 de cada 3 estadounidenses jamás consideraría comprar un coche autónomo debido a que no los consideran seguros y fiables. Algunos usuarios de Twitter incluso han llegado a expresar que les provocaría emociones como miedo y preocupación el saber que su vehículo estuviera siendo controlado por un tipo de inteligencia artificial, comentarios posiblemente motivados por la noticia de la muerte de Joshua D. Brown a bordo de un Tesla.

La popular compañía de tecnología y transporte Uber, ha estado haciendo pruebas de coches con sistemas autónomos en su plataforma por la ciudad de Pittsburg desde septiembre del 2016, sin embargo, ha declinado reportar el progreso de sus pruebas. Los únicos comentarios de usuario respecto a este sistema surgieron durante el evento de presentación del sistema de Uber, donde varios periodistas calificaron la experiencia de ser transportados autónomamente como “enervante” y “emocionante”.

Brandon Schoettle y Michael Sivak del Instituto de investigación en transportes de la Universidad de Michigan publicaron en mayo del 2016 los resultados de una encuesta realizada a 500 conductores. Únicamente el 15.5% de todos los que respondieron la encuesta estaban a favor de vehículos completamente autónomos, mientras que el 45.8% se mostraban sin interés por ese tipo de sistemas en sus automóviles personales. 

¿Cuándo y cómo?

Frente a la resistencia cultural a los vehículos autónomos y la dificultad técnica que presenta el desarrollo de sistemas autónomos fiables, el Dr. Rojas esboza su uso popularizado para el año 2030. Sin embargo, la industria quiere fijar fechas anticipadas a la década del 2030. Recientemente la compañía automotriz Ford comunicó que quiere poner vehículos 100% autónomos en las calles para el año 2021. Y el magnate Elon Musk mencionó que Tesla Motors va a tener, para finales del 2017, un coche autónomo que pueda manejar de Los Angeles a Nueva York sin necesidad de asistencia humana. 

La controversia no se encuentra limitada por la velocidad en los avances tecnológicos, sólo es cuestión de tiempo para que los coches completamente autónomos formen parte de la nuestra cotidianidad. Las legislaciones y decisiones deberán ser tomadas antes de que esto ocurra ya que de lo contrario se podría llegar a un periodo de experimentación en la que no se conociera previamente como sería la interacción entre las diferentes configuraciones éticas de los sistemas. 

Paradójicamente ante la complejidad para enfrentar estos dilemas éticos se podría llegar a soluciones que traicionaran principios básicos de la inteligencia artificial cómo las tres leyes de la robótica. Aunque claro, todo esto siguen siendo especulaciones. A largo plazo se estima que la mayoría de los coches van a contar con sistemas de alta autonomía, además de una intercomunicación entre estos mismos a tiempo real, esto conllevaría cambios drásticos en la movilidad y diseño de las calles, como por ejemplo la eliminación de los semáforos. 

Asuntos que por ahora parecen irrelevantes dentro de la industria automotriz en unos años van a ser fundamentales, cómo bajo qué sistema operativo corra cada coche. Aunque las dificultades éticas probablemente sigan siendo las mismas independientemente de los relevantes avances tecnológicos. Mientras que probablemente sean políticos los que terminen decidiendo que configuraciones morales se les implementen a los vehículos autónomos, el verdadero desafío reside en encontrar soluciones incluyentes e imparciales, tomando en cuenta en todo momento los derechos humanos. 

Sea cual sea el resultado de esta carrera hacia la autonomía vehicular, las decisiones y dificultades a las que se enfrenten este tipo de máquinas van a seguir siendo las mismas y sólo el tiempo dictará cuáles serán las políticas morales que prevalezcan. 

Revista en línea:  http://fismat.ibero.mx/drive/news/gato_en_la_caja/revista3.pdf

*Alumno de Ingeniería Física de la Universidad Iberoamericana Ciudad de México.