Conceptos éticos de la automatización

EMPRESA – Artículo publicado a 7 de Mayo de 2017.


A medida que la automatización de los procesos y actividades se ha desplazado de las fábricas a contextos cotidianos,  surgen dudas sobre como dichos procesos automáticos tienen que interaccionar con las personas y las propiedades. En definitiva, aparecen preguntas lógicas sobre como deberían comportarse con nuestras cosas y con los seres humanos. Es lícito también pensar que los científicos y los investigadores tienen que avanzarse a todos estos hipotéticos problemas que pueden aparecer.


Apuntes sobre la Cuarta Revolución Industrial (IV). Éste es el cuarto de una serie de artículos dedicados a la Cuarta Revolución Industrial y a su impacto en la sociedad, ciudadanos, consumidores y empresas.


Mientras que no hay duda de que en caso de siniestro, el típico coche o camión que nos rompe la valla de nuestra propiedad, es el conductor y/o el propietario del vehículo el responsable de los destrozos y el que debe hacer frente a las indemnizaciones correspondientes, en el caso de los procesos automáticos la cuestión, ya convertida en dilema, es un poco más profunda: ¿qué ocurre cuando dicho proceso automático no destroza una propiedad por accidente, sino que puede decidir hacerlo o no en base a unos parámetros programados en su cerebro electrónico?.

Pongamos un ejemplo de ello, imaginemos que un camión de limpieza sin conductor, realizando trabajos rutinarios reacciona ante la aparición de un niño en un triciclo y la única manera de evitar el atropello fuera desviando su trayectoria rompiendo una valla. Todos aplaudiríamos su decisión, los costes económicos se dan por bien empleados ante un posible accidente y peligro de una vida humana.

Pongamos otro ejemplo: un convoy de metro, que en algunas ciudades ya funciona sin conductor, detecta un objeto en medio de la vía: una persona ha caído a escasos metros del vagón de arrastre. Si el conductor fuera una persona, y estuviera bien entrenado, el conductor accionaría los frenos, esperando que su acción permitiera salvar la vida de esa persona. A partir de aquí nos aparecen diversos escenarios:

  • Escenario 1: el convoy frena y puede salvar la vida de la persona en la vía, no ha habido heridos entre los pasajeros transportados  y más allá del susto correspondiente, no han habido consecuencias serias.
  • Escenario 2: el convoy frena y logra salvar la vida de esa persona  pero ha habido heridos entre los pasajeros.
  • Escenario 3: a partir del caso anterior, ha habido diversos heridos y una muerte entre los pasajeros
  • Escenario 4: a partir del caso anterior, ha habido más muertes entre los pasajeros.

Todos estos dilemas, aunque parezca una locura, se podrían sintetizar en una especie de matriz.

Escenarios - Conceptos éticos robots

H: herido/a; M: muerto/a

Evidentemente, los  escenarios son ilimitados.

Imaginemos que el conductor ante la inminencia del atropello valorara diversas cosas en una fracción de segundo: debido a que transporta una gran cantidad de pasajeros, al frenar bruscamente los vagones, la frenada originaria sin duda diversos heridos graves y posiblemente muertes. Imaginemos también que el conductor determinara que los riesgos para los pasajeros son tan altos que ni tan solo accionara el freno de emergencia, atropellando a la persona de la vía. Tampoco hemos tenido en cuenta las situaciones en que estuviera en peligro la propia vida del conductor. Los factores a tener en cuenta son casi inimaginables.

La verdad es que no me consta que los sistemas automatizados de control de los vagones de metro dispongan de ese tipo de inteligencia. Sin embargo, todos estos dilemas salen a la luz a medida que los sistemas de decisión se apoyan en inteligencias pseudo-artificiales capaces de procesar toda esa información en tiempo real. Si delegamos la responsabilidad en las máquinas tenemos que estar seguros de que las decisiones son las más adecuadas. Un sistema que recogiera todos los factores: número de pasajeros, inevitabilidad (o no) de la tragedia y tomara la decisión más adecuada teniendo en cuenta las vidas humanas en peligro.

Como resultado, ¿está realmente un conductor preparado para tomar dichas decisiones en una fracción de segundo?. ¿Y si en lugar del conductor fuera un sistema automatizado el que tomara las decisiones?, ¿como directivos de la empresa asumiríamos la responsabilidad de sus acciones?  ¿como ciudadanos estaríamos dispuestos a  aceptar la decisión tomada? ¿la apoyaríamos?.


Enric SerradellENRIC SERRADELL LÓPEZ

Profesor de los Estudios de Economía y Empresa y Director de los programas Executive Education MBAs y Programas Directivos de la Universitat Oberta de Catalunya (UOC).


About Economía y Empresa

Estudis d’Economia i Empresa de la Universitat Oberta de Catalunya (UOC) /

Estudios de Economía y Empresa de la Universitat Oberta de Catalunya (UOC)

Bookmark the permalink.

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps necessaris estan marcats amb *