NeoFronteras

Sobre la ética del coche de conducción autónoma

Área: Cooperación — Domingo, 14 de junio de 2015

La fabricación y venta de automóviles de conducción autónoma conlleva la necesaria programación de reglas éticas para casos de accidente.

Foto

En los dilemas éticos se pide a un voluntario que responda qué solución tomaría a un problema, por ejemplo el dilema del tren.
Imagine, amigo lector, que usted es el guardaagujas de una estación de tren. Un tren circula normalmente a su hora por su vía normal cuando un autobús cargado de niños se para en la vía justo enfrente a escasos metros. El dilema consiste en decidir si no hacer nada, lo que inevitablemente provocará que mueran muchos niños o desviarlo activamente por otra vía (hay un cambio de vía justo en el lugar) y que vaya justo por la vía en la que está su único hijo jugando (que le ha acompañado ese día al trabajo), por lo que morirá inevitablemente. El problema es que no hay una opción en la que no se pierda. No hay opción ganadora. ¿Qué haría usted?
El caso es que este tipo de decisiones puede que las tenga que tomar el programa de computador que controle un futuro automóvil de conducción autónoma. ¿Compraremos un coche que esté dispuesto a sacrificarnos a nosotros mismos por el bien común?
Ya hay prototipos de autos que se conducen solos, como los de Google, que ya han recorrido más de 2 millones de km por las carreteras norteamericanas. Volvo tiene pensado sacar uno de estos autos en 2017 y la compañía Tesla dice estar también cerca de ofrecerlo pronto al mercado.
Los autos de Google se han visto implicados en unas docenas de pequeños incidentes, según la compañía por culpa de los demás conductores. Pero tarde o temprano el problema es que se presente una situación no ganadora como la del tren en la que tengan que morir personas.
Una rueda puede explotar y la elección puede ser llevarse unos peatones y ciclistas por delante (por lo que morirían seguro algunos de ellos) o chocar contra un sólido muro de hormigón que mate a todos los ocupantes del vehículo (o que caiga por un barranco). Un sistema computacional puede perfectamente tener tiempo suficiente de evaluar la situación y de decantarse por una u otra opción según lo que esté programado. Tendrá un mapa de la situación, sabrá el grosor del muro o la profundidad del barranco, podrá calcular todas las trayectorias, etc. Podrá hacer el cálculo mucho mejor y más rápido que un humano.
Según los expertos en Ética y Filosofía, el decidirse por un caso u otro depende de si usamos el utilitarismo o la deontología en esa programación.
Si nos decantamos por el utilitarismo, el coche deberá chocar contra el muro si así se salvan más vidas de peatones y ciclistas que de ocupantes del vehículo; pues esto produce la mayor cantidad de bienestar para un mayor número de personas.
Si nos decantamos por la deontología no, pues según esta rama del pensamiento la muerte intencionada por acción de alguien es siempre incorrecta. Así que, según esto, uno no puede desviar el tren y que mate a su hijo, aunque mueran muchos niños del autobús por omisión. Aplicado esto mismo al coche con conducción autónoma, significa que el programa nunca debe sacrificar al conductor y sus ocupantes. Siempre tiene que intentar salvarlos, aunque sea a costa de los demás.
Por tanto, antes de que los coches autónomos circulen por ahí habrá que elegir si se implementa el utilitarismo o la deontología en sus programas.
Si se elige el utilitarismo el auto tomará la acción que beneficie a la mayoría, independientemente de las circunstancias. Lo malo es que en este caso debemos considerar cada acto individual como un subconjunto de acciones separado y esto significa que no hay reglas duras y rápidas, sino que cada situación es especial. Según Gregory Pence no se puede programar un ordenador para que maneje todos los casos posibles. “Sabemos esto al considerar la historia de la ética”, añade.
Según este profesor, aplicar la ética de Santo Tomás puede dar lugar a una solución distinta a la que te den otras éticas. Esto se puede comprobar fácilmente en los problemas de la medicina moderna para los que fallan algunas éticas, porque se suelen dar circunstancias especiales y la Medicina está evolucionando constantemente.
Este tipo de estudios recuerda que todos los campos del conocimiento son importantes y que la Ética y la Filosofía no se merecen ser ignoradas y relegadas, pues puede darse el caso en el que sean necesarias. Aunque esta es otra clase de “utilitarismo”.
Por cierto, la mayoría de la gente prefiere no hacer nada y que el tren arrolle al autobús escolar. Esto es lo que además se considera una conducta moral normal, aunque no la tomara Mr. Spock.

Copyleft: atribuir con enlace a http://neofronteras.com/?p=4695

Fuentes y referencias:
Nota de prensa.
Foto: UAB.

Salvo que se exprese lo contrario esta obra está bajo una licencia Creative Commons.
Compartir »

10 Comentarios

  1. tomás:

    Creo que en una decisión instantánea como la que se propone, nuestro razonamiento no va a tener tiempo de la más mínima meditación y el egoísmo nos llevará a salvar a nuestro hijo. Posiblemente, hasta vayamos a recogerlo por si acaso. Otra situación se daría si hubiese tiempo de razonar. En cualquier decisión que se tome, el dolor de las consecuencias lo tendrá de por vida ese desgraciado padre, salve o no a su hijo.
    Creo que la cuestión sería más peliaguda si el tren fuese hacia nuestro hijo y al desviarlo, la acción tuviera la consecuencia de destrozar el autobús, porque sería algo que encuentro más “culpable”.

  2. NeoFronteras:

    Es que lo razonable desde el punto de vista biológico es salvar al vástago. Si luego mueren otros, pues son desconocidos con los que no se tiene un vínculo genético. Alguien que decida no salvar a su hijo no podrá transmitir sus genes excesivamente altruistas.
    Y si lo salva gana, aunque lo condenen moral o legalmente.

    La pregunta es hasta qué punto nos importan los demás si son desconocidos. Por hacer de abogado del diablo, ¿merece la pena salvarlos a costa de nuestras vidas o de las vidas de los nuestros? Así, al azar, será un individuo fanático del fútbol y/o de los toros y un adicto a la telebasura. Puede que sea incluso creacionista o negacionista climático.
    La situación recuerda la que comentaba hace unos días usted, amigo Tomás, cuando el señor ese dio la vida por unos que se iban a ahogar en el mar. ¿Es algo natural o culturalmente inducido? ¿Es una inducción religiosa? Además, tras la muerte no hay nada, pierdes todo, absolutamente todo. Pero lo más probable es que pensaba que los salvaría sin perder él la vida. Creemos que a nosotros mismos no nos puede pasar nada malo, que sólo mueren los demás.
    Pero la pregunta fundamental es qué harán con sus vidas los que fueron salvados. Tienen una obligación moral inmensa con sus propias vidas. No pueden seguir tal cual, como si no hubiese pasado nada y malgastar esas vidas como hace la mayor parte de la población.

  3. NeoFronteras:

    En cuanto a la moral del coche de conducción autónoma debía de estar muy clara. Como lo que pueda pasar también depende de los que hagan los otros automóviles, lo ideal es que si el coche es de alta gama (BMW, Mercedes, Ferrari, etc) tengan instalada la opción utilitarista. Si el coche no es de alta gama entonces debe tener instalada la opción deontológica.
    Si tiene que morir alguien que lo haga el que ya ha disfrutado de la vida con la riqueza, al fin y al cabo, posiblemente se la ha extraído a los demás (legalmente, se supone).

  4. Miguel Ángel:

    Querido Neo:

    Pues la respuesta del capitalismo y la ideología ultraconservadora sería la contraria, para que puedan seguir haciendo al volante lo que ya hacen: http://neofronteras.com/?p=3759
    Si la respuesta que propone es la moral, la del capitalismo no puede serlo.

    Sobre lo que plantea en su 2, me han venido a la memoria dos casos: uno, el de un médico italiano que estaba cooperando en África (creo recordar que con enfermos de Ébola). Recibió una llamada de su esposa que le dijo: “vuelve a casa, no te expongas, que tienes mujer e hijos”. El médico le respondió: “pero es que los enfermos a los que atiendo también tienen familia, siento que es mi obligación”…unos días después, contrajo la enfermedad y murió.

    El otro es personal y no puede ir más al hilo: hará cosa de 20 años y estaba dándome un baño con mi padre y mi hermana en el Mediterráneo y había resaca. De repente, oigo una voces que dicen “que se ahoga” y, efectivamente, había un hombre inconsciente que flotaba con la cabeza dentro del agua. Algunos hombres jóvenes se habían metido en el mar hasta donde daban pie y estaban a menos de 10 metros de la víctima, pero ninguno se arriesgaba a ir a por él. Yo estaba algo más lejos que ellos, unos 20 metros más adentro del mar que el ahogado.
    Ya me estaba dirigiendo hacia él cuando mi padre me grita porque él y mi hermana también están en serias dificultades: les miro por un instante y veo que tratan de salir pero no avanzan, ansiosos, con los ojos como platos. En ese momento la distancia que me separaba de ellos era similar a la que me separa del ahogado (unos 10 metros en ambos casos), pero ellos estaban tan dentro del mar como yo, mientras el ahogado estaba a 10 metros en dirección a la playa.
    En esas situaciones el cerebro hace sus cálculos rapidísimo y el mío debió de concluir que era posible sacarlos a todos, al más puro estilo de Shackleton. Me sorprendió ver a mi padre en apuros porque todavía era un excelente nadador capaz de bucear 25 metros bajo el agua, pero eso mismo me animó a pensar que sólo tenían que aguantar unos segundos y que, muy probablemente, lo conseguirían. Miré a mi padre y hermana y les grite: “NADAD CON CALMA, YA VOY”, apreté los dientes y seguí en dirección al ahogado le dí la vuelta (estaba cianótico) y lo arrastré hasta aquellos jóvenes. Media vuelta y a por los míos, con suerte también.
    Sin embargo, no completé la acción: me tenía que haber quedado a reanimar al ahogado (aunque entonces era sólo estudiante y ya había voluntarios manos a la obra), pero los nervios, que no me habían podido mientras estaba actuando, me dejaron completamente bloqueado. Ni siquiera quise enterarme después si se había recuperado o no, porque temía que hubiese malas noticias y quedar todavía más consternado.
    Aunque todo salió bien, no sé si tome la decisión correcta y si en otra semejante, actuaría igual.

    Un fuerte abrazo

  5. tomás:

    Querido Neo:
    Respondiendo al abogado del diablo, diría que sólo somos dueños de nuestras vidas -quizá de lo único que somos verdaderamente dueños, por mucho que la Iglesia se empeñe en negárnoslo, y si nuestra mente nos lo permite-, pero no de las vidas de los nuestros. Así que parece coincidir la ética con la genética; o sea, con la ética del gen: gen-ética. ¡Vaya etimología que me saco de la manga!

    En cuanto al que perdió su vida, creo que fue algo inducido culturalmente; en cierto modo lo insinúo al mencionar su profesión. Y supongo -e incluso diría que supuse- que debía ser un buen nadador y, además, tener una excesiva confianza en sí mismo. Que yo sepa, nadie le hizo ni un pequeño homenaje. Al fin y al cabo, los que se salvaron podrían haber agradecido la intención, y eso, en una pequeña capital, se hubiera sabido; más yo, que, como testigo, estuve interesado en ello. Pienso ahora que, seguramente, no merecieron una intención salvadora de tanto riesgo.

    En cuanto a lo del coche autónomo, supongamos ese legalmente, como dices, pero claro con arreglo a leyes hechas por ellos y para ellos, según las cuales robar en una tienda conlleva detención inmediata como mínimo, pero llevarse millones arrastra un largo, respetuoso y honorable proceso.

    Mi más cordial saludo.

  6. tomás:

    Mi querido amigo Miguel Ángel:
    Tu peripecia responde a tu forma de ser. Evaluaste con gran inteligencia, altruismo y riesgo, y… tuviste mucha suerte. “En esas situaciones el cerebro hace sus cálculos rapidísimo…”. Creo que tu cortex prefrontal ha de ser muy grueso y denso, dejando empequeñecida a la parte límbica.
    Eres excepcional, no me cabe la menor duda.
    Un fortísimo abrazo.

  7. lluís:

    Directo al grano: salvaría al vástago. Lamentaría mucho que murieran los demás.Y me dolería, pero salvaría a mi hija o hijo.NO me he encontrado nunca en esa disyuntiva y espero no tener que encontrarme nunca en una situación semejante ( lo cierto es que no tengo hijos en edad de jugar y menos en una vía de tren), pero estoy seguro de que no dejaría morir a una hija o hijo mio, para salvar a desconocidos y me parece perfectamente lógico.
    – Un saludo a todos.

  8. tomás:

    Pues te pierdes la foto junto a Guzmán el Bueno y el general Moscardó.

    Ya en serio: creo que en esa situación límite y muy definida, todos haríamos lo mismo. pero en Tarifa y en Toledo, había otros condicionantes: fidelidad al señor, honor, patriotismo, etc. Además no tenían ni idea de genética. ¿Qué le vamos a hacer?

  9. lluís:

    Tomás, tienes un gran sentido del humor,siempre lo has demostrado y me parece muy bien. Eso sí te aseguro que perderme esas fotos junto a esos señores lo considero un honor.
    Y tienes razón, esa situación límite esta muy definida, por supuesto que puede haber otras muchas situaciones en la que la decisión a tomar cause mucho más disturbio interior o de conciencia.
    – Un abrazo, amigo.

  10. Radek:

    La opción deontológica es la que nos puede salvar del calentamiento global:
    En cuanto la gente se entere de que el coche propio y el de enfrente pueden ponerse de acuerdo en que muera la menor cantidad de gente posible, llegarán a la conclusión de que la mejor alternativa será compartir el auto con cuantas personas sea posible y en vez de airbags promocionarán hileras de asientos extra.

RSS feed for comments on this post.

Lo sentimos, esta noticia está ya cerrada a comentarios.