IRONIES OF AUTOMATION

No; el título no es mío. Fue utilizado por Lisanne Bainbridge en un artículo escrito en 1983 y que, a pesar -o a causa de- todos los avances tecnológicos, continúa plenamente vigente. El título es, por ello, un homenaje a una pionera en un área clave del rendimiento humano: La relación de las personas con la automatización.

La automatización está presente en nuestras vidas porque mejora la eficiencia en distintas actividades, pero esa mejora puede producirse de tres formas distintas:

1. Con los mismos recursos se puede conseguir un mayor volumen de resultados.
2. Los mismos resultados pueden conseguirse con un menor volumen de recursos.
3. Ambas.

En los tres casos, queda una pregunta abierta: ¿Qué ocurre cuando el sistema falla y se presenta una situación degradada?

En muchas situaciones, la respuesta es sencilla: Siempre que no ocurra con más frecuencia de la deseable, no ocurre nada importante. Sin embargo, hay situaciones donde las apuestas son importantes y un fallo puede tener consecuencias catastróficas. Son ésos los casos en los que debemos analizar críticamente el impacto de la automatización.

Dos entornos en que las situaciones son potencialmente catastróficas son las operaciones en aviación y las centrales nucleares, pero las segundas tienen una clara ventaja sobre las primeras:

Buena parte de los procesos automáticos está dirigida a producir una parada en caso de que se presente una situación anómala. Una vez detenido el reactor, los operadores disponen de tiempo para analizar la situación e incluso consultar a terceras personas sobre la solución a adoptar…si un piloto o un controlador pudieran congelar el tiempo en una situación crítica, se encontrarían en un escenario parecido al que se produce en una central nuclear. Sin embargo, no es así.

La característica más notoria de las operaciones en aviación es que funciona con organizaciones rotas; la cadena jerárquica de la organización queda rota en el momento en que un piloto se hace cargo de un avión y la ayuda que puede esperar del exterior es forzosamente limitada. Cualquier decisión a tomar en el curso de una situación crítica cae sobre sus hombros y es aquí donde entra la automatización con sus luces y sus sombras.

La primera ironía que nos presenta la automatización es la presencia de interfaces más sencillos que controlan sistemas más complejos. La eficiencia es visible en muchos ámbitos: Hace mucho tiempo que desapareció el mecánico de vuelo de las cabinas y mucho más aún que desaparecieron figuras como el navegante o el radio. Los automatismos han permitido también aumentar la precisión lo suficiente para reducir la distancia vertical de los aviones en vuelo; han permitido realizar aterrizajes sin visibilidad; han permitido meter más aviones en un espacio aéreo; han permitido poner menos motores en los aviones gracias a un seguimiento automático de parámetros que disminuyen la posibilidad de un fallo…y podríamos continuar.

Sin embargo, uno de los casos donde se pudo apreciar con claridad que algo se estaba escapando se produjo en el área de mantenimiento. El informe de un incidente, ocurrido 10 años después de la publicación del original Ironies of Automation contenía esta reveladora frase:

Fuente: https://www.gov.uk/aaib-reports/2-1995-airbus-a320-212-g-kmam-26-august-1993

“It is no longer possible”…¿Significa esto que el nivel de conocimiento se reduce a la ejecución de procedimientos? ¿Es ese nivel de conocimientos suficiente cuando se presenta una situación degradada?

Accidentes muy posteriores, como el ocurrido al AF447, donde un avión con sus dos motores en perfecto funcionamiento cayó en el Atlántico desde 10.000 metros más arriba o casos como los ocurridos con los B737MAX, donde un sistema inadecuadamente diseñado corregía las órdenes de los pilotos sin que éstos supieran siquiera que tal sistema existía, invitan a un análisis crítico del desarrollo de la automatización.

Las ganancias en eficiencia no pueden producirse a costa de pérdidas en conciencia situacional. Mica Endsley describió perfectamente cómo funcionaba el proceso de conciencia situacional mediante este conocido esquema:

Fuente: https://www.researchgate.net/figure/Endsleys-model-of-situational-awareness_fig3_269112517

El esquema lleva implícita una variable que, para analizar el impacto de la automatización, tiene gran importancia: La variable tiempo. La conciencia situacional no puede funcionar como una fotografía sino como un vídeo, es decir, para que sea efectiva, necesita continuidad. La información entregada por el sistema tiene que posibilitar lo que podríamos denominar “continuous situation awareness” y no limitarse a informar de situaciones anormales.

El desarrollo de un evento permite disponer de claves para su solución y son muchos los casos en que una automatización inadecuada ha informado al operador en el momento en que su intervención era requerida, no antes. Modelos como el llamado dark cockpit pueden conducir a este efecto si no son adecuadamente diseñados.

Los sistemas automáticos son capaces de actuar en formas que son completamente inaccesibles al operador humano y, desde ese punto de vista, podría decirse que la “singularidad”, proclamada por autores como Ray Kurzweil, ya está funcionando aunque no tenga el carácter general anunciado, sino que se limite a algunos terrenos.  Así, una mano humana no tiene la capacidad para volar en espacio RVSM con la precisión requerida ni tampoco tiene la capacidad para ejecutar un aterrizaje sin visibilidad. Éstos son hechos y, como tales, no son discutibles pero…sí es exigible disponer de información sobre cómo está funcionando el sistema -incluso cuando todo parece estar funcionando bien- y, sobre todo, las situaciones degradadas tienen que ser fácilmente reconocibles y tener una respuesta clara para las mismas.

Bienvenida sea la automatización y, en general, la evolución tecnológica pero manténgase un ojo crítico frente a desarrollos que podrían anular al humano como alternativa cuando se presenta un evento importante.