No todo es tan malo ya que también ha salvado su primera vida y hay videos donde se les ve evitar accidentes y maniobrar antes de que seamos capaces de entender qué ocurre. Mucho se ha escrito de los vehículos inteligentes o autónomos: comparándolo con el dilema del tranvía, noticias sobre el primer muerto en un coche autónomo, sobre si debería proteger a sus tripulantes ante todo o a los demás vehículos o viandantes, etc. No todo es tan malo ya que también ha salvado su primera vida y hay videos donde se les ve evitar accidentes y maniobrar antes de que seamos capaces de entender qué ocurre.
No sé si puedo aportar algo nuevo a lo ya escrito, pero quizás pueda aclarar algunos términos, ofrecer datos y por supuesto, resaltar unos cuantos puntos críticos para la futura (inminente) implantación de los Vehículos Autónomos (VA a partir de ahora).
Unas cuantas cifras.
En España, con datos de 2015, se produjeron 1.126 víctimas en accidentes de tráfico.
En el mundo, también en 2015, fueron un total de 1,250.000 (aprox)
La información de la que se dispone habla de que con la implementación de los VA se reducirán las bajas mortales un 90%. Es decir, en el año citado tan sólo se hubieran computado 113 y 125000, en España y en el mundo respectivamente. Una reducción de 1,125.000 personas al año aproximadamente.
¿Cómo eligen los VA quién debe llevarse la peor parte en un accidente?
Se ha comparado a los VA y su capacidad de decisión al famoso dilema del tranvía, en el que se decide quién debe morir y quién vivir de una forma muy directa, sin apenas posibilidades de elección y con un resultado 100% fatal para una o varias personas.
La comparativa no tiene demasiado sentido ya que en el dilema existe una certeza de lo que ocurrirá (un accidente con resultado mortal) y dos escenarios posibles (con una o varias víctimas según si actuamos directa o indirectamente en el resultado).
Ni blanco o negro, ni vida o muerte, ni certeza de lo que ocurrirá. En los VA, el algoritmo de decisión calculará qué hacer hasta el último momento del accidente, cambiando su decisión si las condiciones cambian. Calculará unos datos previos, unas condiciones previas y serán recalculadas con los datos recogidos hasta el momento del siniestro.
Condiciones previas
Efectivamente, hasta el mismo instante del accidente los VA recogen datos desde muchas fuentes. No olvidemos que la entrada de estos vehículos al mercado y a las calles conllevará pequeños cambios tecnológicos: comunicación entre vehículos y comunicación VA con las vías, pasos y semáforos inteligentes con comunicación a los VA, y además no podemos obviar las maniobras atenuantes, etc. Un gran listado de seguridad activa y pasiva afectará a la decisión a tomar por el algoritmo.
Entonces, ¿deben programarse para salvar al tripulante o a los demás usuarios de las vías?
Después de lo que habréis leído queda bastante claro de que el algoritmo no es una programación tan básica ni dual (salvo a uno para sacrificar a otro u otros). Deberíamos centrar el debate en los datos que debe contener la programación:
¿Debe tener acceso a datos personales?
¿Debe tener acceso a la salud o profesión de los implicados para que el algoritmo calcule qué hacer?
¿Quién debe decidir qué datos debe tener y a qué datos puede acceder?
Al leer estas preguntas de difícil respuesta, lo que parece fácil es saber lo que NO debería suceder:
No debería decidir sólo una de las partes implicadas. Ni las automovilísticas, ni los gobiernos, ninguna de las partes en solitario. Si sólo una de las partes fuera la que decide, parecería una especie de “justiciero” tomando una decisión rápida sobre los acontecimientos. Este concepto de “justiciero” queda mejor explicado en un muy recomendable video de Ted: The ethical dilemma of self-driving cars - Patrick Lin (con subtítulos en castellano para el que lo necesite).
Datos a tener en cuenta a la hora de la programación de los algoritmos.
Tanto la programación, como el acceso a información que llevará o recalculará el algoritmo con nuevos datos que continuamente le irán llegando, debe ser consensuada por expertos de todo tipo: programadores, expertos en ética, automovilísticas, gobiernos, compañías de seguros, usuarios de vías y propietarios. En definitiva, por todos los implicados (en representación claro está) por las acciones de los VA.
El acceso a la información, tanto previa como la recogida en el momento no debería ser un problema mayor a la que se recoge médicamente para realizar un trasplante o a la que se maneja en comités éticos en medicina. Por supuesto que siempre supone un problema entre los que plantean la libertad a ellos contra los que defienden el derecho a la privacidad.
Las consecuencias legales de una decisión sobre cómo programar el algoritmo, también deben ser tenidas en cuenta. Así que un comité que medie entre todas las partes, posiblemente reduzca las consecuencias legales que, a priori, serían mayores con decisiones unilaterales.
Un apunte más, para no darse otro caso como el de Volkswagen y el engaño en la programación sobre el nivel de contaminación, el acceso a la programación debería ser de código abierto. Esto es, accesible para todos en “modo lectura”.
Por mi parte, los VA serán bienvenidos.
Investigador predoctoral en la línea de investigación de ética de la economía y la empresa.
