Etiquetado: Inteligencia Artificial
EASA, Inteligencia Artificial y el búho consultor
Un viejo chiste entre consultores dice más o menos así:
Una hormiga y un elefante se enamoran y deciden mantener relaciones sexuales pero hay un problema. Alguien les recomienda que acudan al búho consultor. Éste, después de estudiar el caso, les da la buena noticia de que tiene dos soluciones:
La primera es que el elefante se haga tan pequeño como la hormiga y la segunda es que la hormiga se haga tan grande como el elefante.
Después de la alegría inicial, la hormiga dice: ¿Cómo?
El búho contesta: Eso son detalles operativos; yo soy consultor estratégico.
EASA, involuntariamente, puede haberse colocado en la posición del búho consultor en lo que respecta al uso de la inteligencia artificial en aviación. Su más reciente concept paper es bueno; tiene apartados que pueden incluso considerarse brillantes pero, al igual que la pregunta de la hormiga al búho, hay muchos apartados en las que es necesario preguntar cómo.
EASA ha identificado muchos problemas como, por ejemplo, quién debe tener la autoridad final dependiendo del nivel de la implantación de la inteligencia artificial; ha detectado también el problema asociado a la fiabilidad de los datos utilizados para que la inteligencia artificial obtenga el aprendizaje adecuado, ha establecido unas reglas de transparencia; han señalado incluso el problema de que el usuario pueda ser manipulado por la inteligencia artificial y, en el mejor estilo de las redes sociales, pueda generar adicción o exceso de confianza. Impecable; incluso han preparado un extenso cuestionario pero una y otra vez aparece la pregunta: ¿Cómo?
Si se me permite simplificar, la respuesta genérica de EASA es asegurar que los datos de entrada son fiables, que el proceso de la inteligencia artificial es transparente y que la formación de los usuarios es la adecuada…es decir, el búho.
La fiabilidad de los datos de entrada queda encomendada a operadores humanos a los que, desde luego, se les pueden escapar detalles: Por ejemplo, cuando alguien detectó que Amazon estaba introduciendo sesgos raciales en su política de contratación debido al uso de la inteligencia artificial, costó tiempo darse cuenta de que los datos de entrenamiento suministraban modelos de éxito y que éstos eran hombres, de edad mediana y blancos. No fue algo que se apreciase inmediatamente y, desde luego, tampoco fue algo que se le pudiera haber preguntado a la inteligencia artificial misma; de hecho, privar al sistema de información sobre raza o sexo sólo condujo a que éste buscase otros indicadores como nombre, lugar de residencia o dónde se había estudiado. Entiéndase que el sistema no buscaba información sobre raza o sexo sino que comparaba el perfil de éxito con el perfil del candidato y el sesgo estaba precisamente en el perfil de éxito.
No siempre es fácil de detectar ni la inteligencia artificial nos va a explicar siempre en términos comprensibles por qué introduce determinado sesgo.
Otro problema es la autoridad; el concept paper establece una gradación muy clara y muy completa de la autoridad pero, en la vida real, esta gradación no es tan clara: ¿Qué ocurre cuando tenemos un auxiliar que, habitualmente, acierta pero, en una situación crítica, se equivoca? ¿Cuál es el grado de presión que tiene el operador que, teóricamente, tiene la autoridad?
Supongamos que el vuelo US1549 hubiera llevado una inteligencia artificial que le hubiera indicado a Sullenberger que podía llegar al aeropuerto…pero la última decisión era suya. ¿No habría tenido un elemento añadido de presión difícil de superar? No; no es tan fácil como se sugiere hacer una delimitación de la autoridad de cada una de las partes.
En cuanto a la solución de la formación, los problemas señalados sugieren que es difícil dotar al operador humano de una inteligencia artificial de una formación adecuada e, incluso, puede calificarse de recurso tan fácil como habitual: Alguien toma una decisión errónea, se atribuye a falta de formación, se incluye un epígrafe en la formación de pilotos, controladores, técnicos de mantenimiento…y a esperar la siguiente situación que, igualmente, será atribuida a falta de formación. ¿Vale la pena recordar que en un primer momento los accidentes del Boeing 737MAX fueron atribuidos a falta de formación de los pilotos?
En suma, el concept paper muestra que hay un esfuerzo importante detrás, que sus autores saben de qué hablan…y que les han puesto encima de la mesa un problema de muy difícil solución, si es que existe tal solución.
Finalizaremos con un pequeño recordatorio: Un riesgo catastrófico en aviación sólo se considera aceptable si su probabilidad es inferior a uno en mil millones. ¿Podemos garantizar que la inclusión de la inteligencia artificial, añadiéndole todas las garantías que sean factibles, lleva asociado un riesgo que está por debajo de ese nivel?
Sólo eso; creo que hay mucho que reflexionar. Enhorabuena a EASA por su paper -sin la menor ironía- pero quizás le han puesto encima de la mesa un problema insoluble.
INTELIGENCIA ARTIFICIAL: DISCURSOS QUE ENVEJECEN MAL Y USO EN AVIACIÓN Y OTROS ENTORNOS DE ALTO RIESGO
Hoy, son muchos los libros y artículos escritos sobre inteligencia artificial y, salvo unos pocos, tienen algo en común: El paso de unos pocos meses los convierte en obsoletos y lo que dicen no vale ya para la situación actual.
La inteligencia artificial se está moviendo a tal velocidad que es difícil decir algo que sea, a la vez, relevante y que resista el paso del tiempo. Incluso clásicos como la famosa “habitación china” utilizada por Searle como argumento contrario a Turing y su concepto de la inteligencia artificial no resisten el empuje de los Large Language Models que, a pesar de no conocer ningún idioma en el sentido humano del término conocer, pueden hacer aportaciones de gran interés.
Rodney Brooks, uno de los defensores de la inteligencia artificial en su primera versión hoy conocida como GOFAI (Good Old-Fashioned Artificial Intelligence) decía que los esencialistas contrarios a la inteligencia artificial siempre habían dibujado una línea que, supuestamente, la tecnología no iba a superar y la realidad ha demostrado como, una y otra vez, la línea ha sido superada. Brooks tenía razón pero, como a menudo sucede, no tenía toda la razón: Su afirmación apunta a la cortedad de miras de los esencialistas de lo humano pero no significa que tal línea no exista y, por ello, también muestra la cortedad de miras de los esencialistas de la tecnología, es decir, la suya propia.
Se ha dicho con frecuencia que cuando un cambio cuantitativo pasa de determinada magnitud se convierte en cualitativo y eso es exactamente lo que ocurre con la inteligencia artificial: La explosión tanto en capacidad de procesamiento como en cantidad de información disponible ha cambiado el paisaje. Suposiciones como que la tecnología de la información iba a dedicarse a tareas rutinarias mientras que las tareas de más alto nivel iban a quedar reservadas a humanos no tienen ya ningún sentido. Refugios en actividades intelectuales de alto nivel como el ajedrez o el Go dejaron de ser hace tiempo tales refugios y las máquinas pueden ejercer estas actividades con mucha más destreza que los humanos.
Gigerenzer mostraba como el procesamiento heurístico no era una versión “quick-and-dirty” de un procesamiento estrictamente racional, motivado por la escasez de capacidad de procesamiento. Ponía como ejemplo el comportamiento humano para alcanzar una pelota -manteniendo un ángulo constante con ella- frente al comportamiento que calculaba la trayectoria. Gigerenzer tenía razón pero…¿qué ocurre si un sistema tiene toda la información necesaria y toda la capacidad de procesamiento requerida para hacer el cálculo en el tiempo disponible? Sencillo: Que la forma más compleja se convertiría en viable. Éste es el tipo de hechos a los que, un día tras otro, nos enfrenta la inteligencia artificial.
Los esencialistas del factor humano lo tienen difícil para justificar la posición de supremacía de las personas en muchas actividades pero ¿significa esto que haya que dejarlo todo en manos de máquinas que han mostrado mucha más capacidad que nosotros en multitud de ámbitos?
Creo que no y confío en que lo que viene a continuación no envejezca con la misma rapidez que muchas de las cosas que se han dicho sobre la inteligencia artificial:
Una y otra vez, los que nos dedicamos a los factores humanos hemos mencionado un concepto muy específico: Significado. Una y otra vez, los esencialistas de la tecnología han rechazado este concepto por entender que era, simplemente, un resultado interno de la transformación de símbolos y que, además de irrelevante, era algo perfectamente alcanzable a un sistema de información.
La objeción, sin embargo, no es válida: El significado no es una abstracción interna sino un producto de la interacción del humano con su entorno. Un reconocido tecnólogo, Daniel Hillis, señalaba en “The Pattern on the Stone” que “Given the choice of lying in an airplane operated by an engineered computer program or one flown by a human pilot, I would pick the human pilot. And I would do so even though I don’t understand how the human pilot works. As with the sorting programs, I know that a pilot is descended from a long line of survivors”.
Curiosamente, la razón ofrecida por Hillis invitaría más a confiar en una inteligencia artificial que en un piloto humano: La velocidad de aprendizaje hace que el número de generaciones “supervivientes” de una inteligencia artificial pueda ser de billones en el curso de una sola vida humana. Hay razones para confiar más en un piloto humano pero no son ésas: Probablemente, el piloto humano quiere llegar a disfrutar de un feliz retiro, no quiere cometer ningún error que comprometa su status profesional y, en el corto plazo, tal vez le gustaría llegar a cenar a su casa esta noche…es decir, razones todas ellas derivadas de su relación con el entorno, no de una manipulación de símbolos.
¿Podría la inteligencia artificial alcanzar este punto o, sin hacerlo, alcanzar un punto funcionalmente equivalente? Responder a esa pregunta es muy aventurado y, sin embargo, es la pregunta fundamental ya que será la que defina, en muchas actividades, cuál debe ser el rol humano y cuál el de la inteligencia artificial:
Como se comentaba en el ejemplo utilizado por Gigerenzer, hay dos opciones: Una sencilla, utilizada por un humano que tiene sensores propios para percibir el entorno y utiliza un sistema de procesamiento simple y una complicada, basada en unos cálculos y en un volumen de datos que podrían llegar a ser accesibles en un plazo no muy largo.
¿Podría existir tal volumen de datos y un sistema de información tan rápido que fuera capaz de procesar cualquier situación imaginable? Si esto fuera posible, el resultado sería que una situación de incertidumbre -que requiere el uso del significado para gestionarla- había quedado reducida a una situación de complejidad, asumible por un sistema de información.
Siguiente pregunta: ¿Puede crearse una inteligencia artificial que no aprenda de datos de entrenamiento sino que tenga percepción directa de la realidad externa y, en un sentido muy similar al humano, vaya adquiriendo experiencia? No es imposible pero ¿cuál es el control sobre el proceso de aprendizaje? ¿cómo se sabe que obtiene el aprendizaje correcto?
En ambos casos, estamos volviendo al mismo punto: El significado no consiste en un juego de símbolos sino en una interacción del sujeto con el medio. ¿Llegará un momento en que una inteligencia artificial se vea a sí misma como “sujeto” y, por tanto, desarrolle el concepto real de significado?
De nuevo, en el supuesto de que esto fuera así ¿qué garantías hay de que los significados adquiridos fueran los correctos? ¿podríamos crear una especie de psicópata cibernético, que funciona bien en el ámbito racional pero manipula todos los recursos a su alcance para favorecer su propia posición?
No son preguntas fáciles y quien esto escribe no tiene una respuesta clara y que vaya a soportar el paso del tiempo para ellas. Lo que sí sabemos HOY es que la barrera del significado, en contra de lo que muchos tecnólogos quieren creer, sigue estando ahí, que no es una abstracción vacía sino un producto de una interacción con el entorno, que precisamente por ello es difícilmente separable del concepto de conciencia y que es el motivo principal para que, en actividades de alto riesgo, se prefiera que el protagonismo lo adquiera un humano y la inteligencia artificial tenga un papel de soporte.
INTELIGENCIA ARTIFICIAL ¿QUO VADIS?
En las últimas semanas he tenido ocasión de leer dos libros y un artículo en los que estuvo presente Henry Kissinger. A sus casi cien años fue capaz de ofrecer una iluminación real sobre los problemas a que nos enfrenta el desarrollo de la inteligencia artificial, Genesis: Artificial Intelligence, Hope and the Human Spirit, The Age of AI y How the Enlightenment ends.
La primera conclusión que podemos sacar es que nadie sabe la evolución y hasta dónde puede llevarnos el desarrollo de la inteligencia artificial. Nada extraño; en los primeros tiempos de los ordenadores, se atribuyó a Bill Gates la previsión de un máximo de cien ordenadores en todo el mundo y poco después se atribuyó al mismo la idea de que nunca serían necesarias más de 640Ks en la memoria. Sean o no auténticas las citas, marcan un hecho: Nadie fue capaz de anticipar la evolución de la tecnología de la información y hoy nadie es capaz de anticipar con certeza hasta dónde y en qué dirección nos puede llevar el desarrollo de la inteligencia artificial.
El propio Kissinger utilizaba un ejemplo del desarrollo de la aviación perfectamente aplicable: Al principio, se observó cómo volaban los pájaros y se les trató de imitar. Más adelante, se encontró que se podía volar de una manera distinta a la de los pájaros y, con el tiempo, una vez que se conoció con detalle cómo vuelan los pájaros y la tecnología había avanzado bastante para imitarlos, se encontró que no era necesario porque había otra forma de volar mucho más eficiente. Ése es el estado actual.
Con la inteligencia artificial puede ocurrir algo parecido: Se intentó imitar a un cerebro humano cuyo funcionamiento no se conocía en profundidad y cuando alguien -Marvin Minsky y su grupo en el MIT- con más soberbia que conocimiento, despreció esa guía por entender que estaba lleno de basura evolutiva no funcional, produjo un largo invierno de la inteligencia artificial. No existía la capacidad de procesamiento ni, sobre todo, el volumen de datos que puede ser necesario para que exista algo digno de ser llamado inteligencia artificial.
Hoy sí existen ambas cosas y aunque el conocimiento sobre el cerebro sigue siendo limitado, tal como ocurrió en aviación, podríamos encontrar que existen formas de funcionamiento distintas de las utilizadas por el cerebro humano pero que consiguen resultados. Las máquinas no piensan ni son conscientes pero ¿pueden encontrarse formas de resolver problemas complejos que no necesiten ni lo uno ni lo otro? Hoy ya las hay; las máquinas manejan volumen de datos imposibles para el humano y, como sabemos hace tiempo, por encima de determinado nivel, lo cuantitativo se torna en cualitativo y puede dar lugar a escenarios distintos.
Me gustaría expresar esta situación con un pequeño experimento mental basado en los LLM (Large Language Models) y en su potencial. El acceso a una ingente cantidad de información escrita y hablada en un idioma -incluidos los diccionarios- puede hacer que, en un tiempo corto- la inteligencia artificial sea capaz de dominar un lenguaje y superar con holgura el criterio de Turing, es decir, hacer creer a una persona que está hablando con otra persona y no con una máquina.
Supongamos, pues, que un sistema tiene acceso a una enorme cantidad de información en un idioma y se trata de conseguir que lo domine de la forma más perfecta posible. Nada extraño; eso ya está funcionando.
Vayamos al siguiente paso: Supongamos que a ese mismo sistema le pedimos que haga lo mismo en varios idiomas distintos. Tampoco resulta extraño; los LLM al uso contestan en el idioma que se les pregunta.
Vayamos ahora a un tercer paso: Supongamos que le pedimos al sistema que identifique todas las ineficiencias y las confusiones que tienen los distintos idiomas y que produzca un idioma perfecto; tal vez con una gramática tan sencilla o más que la inglesa pero sin la multitud de excepciones y con reglas de pronunciación constantes; tan preciso como el alemán, el español o el francés pero sin su complejidad gramatical, con una pronunciación sencilla, según la cual, el lenguaje escrito y el hablado vayan juntos y la lectura de una palabra permita instantáneamente conocer su pronunciación sin necesidad de haberla oído antes; es decir, sin problemas como los del cantonés y el mandarín o las distintas variedades de árabe, sin varios alfabetos que convivan como el japonés ni tantos caracteres como el chino…¿misión imposible?
Tal vez no…en la parte técnica. Es posible que la inteligencia artificial pueda generar un nuevo lenguaje pero se tropezaría con el mismo problema que afrontaron los iniciadores del esperanto: Nadie lo habla, aprender un idioma representa un esfuerzo importante y, tal vez, muchos prefieran mantener la situación actual.
Si vamos al aspecto demográfico, el chino sería el idioma con más hablantes nativos pero es un idioma extremadamente difícil. ¿Podría la inteligencia artificial generar una lingua franca partiendo de cero? ¿Qué aceptación tendría?
Aparentemente éste sería un punto muerto, porque todos querrían un idioma lo más parecido al propio, de forma que el esfuerzo de aprendizaje fuese el menor posible pero ¿qué ocurriría si la inteligencia artificial crease un lenguaje propio para entenderse con otros sistemas? Al parecer, esto también ha ocurrido ya en el caso de Bob y Alice, dos inteligencias artificiales que acabaron generando un lenguaje propio para entenderse entre ellas.
Volvemos al punto inicial: ¿Tendría aceptación tal lenguaje entre los humanos? Probablemente no, pero hay una segunda pregunta: ¿Y si eso no tuviera relevancia alguna? Una vez que la inteligencia artificial esté presente en multitud de ámbitos, los humanos pueden tener un gran incentivo para aprender ese lenguaje…al igual que hoy mucha gente cuyo idioma nativo no es el inglés lo utiliza. Probablemente hay más interacción en inglés entre personas que no lo tienen como idioma nativo que entre hablantes nativos; de igual forma, podría acabarse aceptando un idioma artificial que hoy no existe y que no tiene relación con ninguno de los idiomas conocidos…pero que es el idioma adecuado para entenderse con la tecnología.
Más aún; desde hace años es posible entenderse, aunque con limitaciones, mediante el recurso de hablarle al Google Translator y pedirle que haga una traducción hablada al lenguaje del interlocutor. Cabe esperar que, a corto plazo, esta posibilidad mejore y, quizás, el aprendizaje de otros idiomas pase a ser una cosa del pasado.
Por supuesto, este mismo principio puede aplicarse a muchos otros ámbitos: ¿Para qué aprender si nunca se va a llegar al nivel de una inteligencia artificial especializada? Ésta es la idea de base en How the Enlightenment ends; determinadas líneas de progreso tecnológico pueden convertir al ser humano en irrelevante y ¿después?
No es algo que vaya a suceder en varios siglos; hay que tener en cuenta que los ciclos de aprendizaje de la inteligencia artificial son infinitamente más rápidos que los humanos y en unos pocos años se podrían suceder miles de generaciones. El futuro no está en el largo plazo; está a la vuelta de la esquina.
Me gustaría finalizar con la paradoja de Turing y las consecuencias que podemos extraer de ella: Según Turing, la prueba de inteligencia de una máquina estaría en el hecho de que fuera capaz de engañar a un humano, haciendo a éste creer que su interlocutor era un humano y no una máquina. Esto dio lugar a la famosa controversia de la habitación china de Searle y quedó claro que una cosa es operar y otra cosa es comprender. Sin embargo, la prueba real de inteligencia no está en engañar a un humano sino otros sitios; una de ellas la proporcionó el propio Turing: En su trabajo de Bletchley Park con la máquina Enigma, partió de dos principios: El lenguaje original en el que estaban redactados los mensajes era el alemán y, además, en algunas situaciones se sabía de qué estaban hablando. Esto, junto con el hecho de que disponían de una máquina de una generación anterior con los mismos principios de funcionamiento, fue suficiente para romper el código Enigma.
¿Habría sido capaz una inteligencia artificial de utilizar esos dos elementos -asumir que el mensaje original está en alemán y saber de qué se está hablando- si previamente no hubieran estado entre los datos con los que se podía operar? Como mínimo, es dudoso.
Sin embargo, la cosa no acaba aquí: ¿Por qué se le ocurrió a Turing la idea? Evidentemente, porque tenía unos conocimientos generales muy amplios de matemáticas y de encriptación; suficientes para que, en un momento dado, la idea feliz pudiera surgir como de la nada.
¿Qué ocurriría si en un futuro nadie adquiriese una especialización porque la inteligencia artificial ha convertido la adquisición de conocimientos en un lujo inútil? ¿Podríamos encontrarnos en una situación similar a la de El planeta de los simios donde los protagonistas se ven sorprendidos de que los simios estén utilizando tecnología pero no vean avances? ¿Podría llegar un momento en que la inteligencia artificial no viera sentido en mantener a unos miles de millones de personas ociosas? ¿Habría que poner en marcha las famosas “leyes de la robótica” de Asimov para garantizar que la inteligencia artificial no decida un buen día que le sobran los humanos?
No lo sabemos; cuando aparece algo radicalmente nuevo pueden generarse expectativas fantasiosas; así, en el pasado se prohibió adaptar los rayos X a los anteojos de teatro porque nadie sabía que no era posible pero, al mismo tiempo, pueden producirse situaciones que no se habían anticipado, como ha ocurrido con el avance de la tecnología de la información y como, previsiblemente, ocurrirá con la inteligencia artificial. En ningún caso debe olvidarse que la velocidad de evolución en este ámbito hace que el futuro, incluso el más imprevisible, esté ahí mismo.
La inteligencia artificial y el error de Kasparov
Hay quien sitúa el renacimiento de la inteligencia artificial en 1998, cuando una máquina llamada Deep Blue fue capaz de derrotar al campeón mundial de ajedrez, Kasparov.
No es cierto; Deep Blue puede calificarse de humano incompleto o, si se prefiere, de idiot savant, es decir, alguien que es capaz de procesar en muy poco tiempo una gran cantidad de información que le han suministrado sobre partidas de ajedrez y sus resultados. Dicho de otro modo, el aprendizaje de Deep Blue es demasiado humano para poder catalogarse seriamente como inteligencia artificial.
Unos años después apareció Alpha Zero con un planteamiento completamente distinto: Se le daban las reglas del juego e instrucciones de ganar y, a partir de ahí, entraba en un proceso de aprendizaje jugando contra sí mismo. Con toda probabilidad, las opciones que habría tenido Kasparov o cualquier otro jugador de su nivel contra Alpha Zero habrían sido nulas y, sin embargo, en 1998, un mal manejo por parte de Kasparov de sus opciones le llevó a una derrota que, entonces, podría haber sido evitada.
Kasparov no era consciente de una importante debilidad de la inteligencia artificial, entonces y ahora: La fase de aprendizaje requiere una potencia de procesamiento espectacular aplicada, alternativamente, sobre bases de datos de contenidos (caso de Deep Blue) o sobre contenidos autogenerados (caso de Alpha Zero); el proceso de aprendizaje genera un programa mucho más sencillo, con menos requerimientos de potencia y éste es el que se enfrenta, en nuestro caso, a Kasparov.
Quizás este detalle puede parecer irrelevante pero no lo es en absoluto: Kasparov estaba jugando contra un programa sofisticado y capacidad para generar un nivel de juego equivalente a un jugador de primera línea pero…sin capacidad de aprendizaje. La capacidad de aprendizaje estaba en otro sitio y Kasparov tuvo en su mano la posibilidad de permitir o no su utilización.
Al principio de la competición, se establecieron las reglas de ésta y, entre ellas, estaba la posibilidad de admitir asesores externos por ambas partes. Kasparov podía haber prescindido de ellos y, al hacerlo así, habría obligado a que Deep Blue tampoco los tuviera, es decir, se habría quedado enfrentado a la parte operativa de Deep Blue que, teniendo un buen nivel de juego, probablemente habría sido insuficiente para derrotar a Kasparov.
Sin embargo, éste aceptó que hubiera asesores externos y ¿quiénes podían ser los asesores externos de Deep Blue? Especialistas en tecnología de la información que podían hacer el enlace entre la parte generadora de aprendizaje y la parte usuaria de ese aprendizaje. De esta forma, situaciones de difícil salida por no haber sido previstas podían ser manejadas recurriendo al primo de Zumosol, es decir, al sistema capaz de aprender. Ese acceso no habría existido si se hubiera cerrado a ambas partes la posibilidad de tener asesores y Kasparov posiblemente se habría ahorrado una derrota frente a un programa mucho menos evolucionado que los que vinieron después.
En términos prácticos, el asunto no tiene mayor importancia. Quizás Kasparov habría vencido en 1998 pero habría sido derrotado unos años más tarde con la aparición de sistemas capaces de aprender de forma “no humana” como el mencionado Alpha Zero.
Sin embargo, a pesar de esa irrelevancia en términos prácticos, lo que le falló a Kasparov es la explotación de una debilidad de la inteligencia artificial que hoy sigue existiendo, es decir, la estricta separación entre la parte del sistema que aprende y la parte del sistema que utiliza lo aprendido.
Gary Klein señalaba como las personas, en su proceso para tomar una decisión, podían realizar simulaciones mentales que les daban información sobre si una opción funcionaría o no. Puede decirse que, en el caso de las personas, no hay una separación entre el proceso de aprendizaje y el proceso de ejecución sino que ambos van indisolublemente unidos.
En el caso de la inteligencia artificial, las cosas son distintas: El sistema dispone de una gran cantidad de opciones de respuesta pero, si la situación que afronta no está contemplada entre las opciones disponibles -cosa no descartable en entornos abiertos- no dispone de esa capacidad de simulación mental que le permita aprender y, a la vez, ejecutar una tarea que no se encontraba en su catálogo de soluciones previo.
Esta diferencia, vital pero poco conocida salvo para los especialistas, hace que en determinados entornos donde las consecuencias de un error pueden ser muy elevadas, la inteligencia artificial pueda ser cuestionable, salvo en un papel complementario.
Kasparov no supo, o no dio la relevancia adecuada, a este factor y le supuso una derrota que, tal vez, habría sido evitable. Hoy, esto sigue siendo ignorado con mucha frecuencia y, como resultado, se podría llegar a utilizar la inteligencia artificial en entornos para los que no está preparada.
Los requerimientos de tiempo, capacidad de procesamiento y acceso a ingentes bases de datos de un sistema capaz de aprender hace que su inclusión en el sistema que ejecuta las tareas, sea un juego de ajedrez o manejar un avión, sea inviable. El sistema que utiliza el producto del aprendizaje, mucho más ligero, puede tener preparada la respuesta para una enorme cantidad de situaciones pero, si la que se produce no está entre ellas, no cabe esperar respuesta.
Este aspecto, frecuentemente ignorado, debería estar muy presente en muchas de las decisiones que se toman sobre dónde utilizar la inteligencia artificial y dónde no hacerlo.
Inteligencia Artificial: ¿El nuevo «Camino de Servidumbre»?
Ante los ojos del colectivista hay siempre un objetivo superior a cuya consecución sirven estos actos y que los justifican para aquél, porque la prosecución del fin común de la sociedad no puede someterse a limitaciones por respeto a ningún derecho o valor individual.
Camino de servidumbre, Hayek
Cuando una tecnología o una herramienta es suficientemente poderosa, los cambios que produce en la sociedad no son cuantitativos sino cualitativos. No producen mejoras acumulativas sino que producen cambios sociales profundos.
Hoy podemos preguntarnos si la inteligencia artificial tiene potencial suficiente para alterar el modelo social y llevarnos a un nuevo camino de servidumbre, en términos muy semejantes a los que en su día reflejó Hayek. Probablemente sí; nótese que Hayek se oponía la planificación central por el efecto que ésta suponía sobre la libertad individual. Sin embargo, veremos que un mundo en el que la inteligencia artificial pase a tener un papel relevante es difícilmente separable del concepto de planificación central.
Resulta difícil mantener una discusión racional sobre la inteligencia artificial, sus capacidades, sus limitaciones y sus potenciales efectos. Para algunos, tiene un poder mágico y no hay nada que se le pueda resistir; otros preferirán refugiarse en un esencialismo de lo humano y negarán que nos pueda desplazar.
Entre los iluminados tecnológicos, se da un argumento muy común: Los esencialistas humanos siempre han puesto un límite que, supuestamente, nunca se iba a superar y el desarrollo tecnológico ha superado una y otra vez esos límites; este argumento ha sido utilizado concretamente por Rodney Brooks, uno de los personajes presentes en la primera y fallida etapa de la inteligencia artificial, quien, curiosamente, no percibió que su argumento tenía el mismo fallo que denunciaba: Del hecho de que el progreso tecnológico haya sido capaz de saltar todas las barreras que los esencialistas señalaban como inamovibles no puede deducirse que no exista ningún límite, como parecería concluirse de la crítica al esencialismo humano.
Éste es el terreno en el que nos movemos desde hace mucho tiempo; Aristóteles decía que en el término medio está la virtud…y, en la mayoría de los casos, se equivocaba: Es difícil que la verdad sobre cualquier cosa pueda salir triunfante de una contraposición de absurdos y, tal vez, lo que debe hacerse no es buscar el hipotéticamente virtuoso término medio sino cambiar el modelo de análisis y, sobre todo, que las partes en conflicto no estén defendiendo intereses propios sino que estén buscando la mejora desde distintas perspectivas.
La inteligencia artificial de hoy está muy lejos de la llamada GOFAI (Good Old Fashioned Artificial Intelligence) siempre hambrienta de una memoria y de una capacidad de procesamiento que acabarían siendo las excusas perfectas para justificar la lentitud o la ausencia de avances.
Cuando, hoy, nos definen a los utility-based agents (Norvig y Russell) como an agent that possesses an explicit utility function can make rational decisions with a general-purpose algorithm that does not depend on the specific utility function being maximized es inevitable preguntarnos si está hablando de nosotros y si esa definición no es aplicable a todos y cada uno de los seres humanos. Si es así ¿por qué nos debería preocupar la inteligencia artificial, más allá del hecho de ser un competidor? Si conseguimos a alguien/algo con una capacidad intelectual capaz de romper todos los límites conocidos y que, además, no trae su propio equipaje de intereses bastardos ¿no deberíamos alegrarnos?
Tal vez no, aunque muchos críticos de la inteligencia artificial yerran el tiro: Cuando se habla de sistemas críticos -aviación, industria nuclear y otros- donde el comportamiento correcto es clave para el mantenimiento de la seguridad, dirigen su crítica más hacia lo que les resulta más familiar, es decir, sistemas complejos dotados de reacciones automáticas, cuya complejidad los hace difíciles de entender para quienes los operan y difíciles de utilizar de forma eficaz cuando se presentan eventos no previstos en su diseño.
Cierto es que un sistema dotado de inteligencia artificial no mejoraría esa situación sino que, muy probablemente, la empeoraría y habría que contar con eventos en los que el avanzadísimo sistema entrase en un bucle infinito, en una petición imposible de recursos o requiriese unos tiempos de proceso inasumibles en una situación de urgencia. El piloto, el operador nuclear y otros tienen en estas situaciones el papel de Alejandro Magno deshaciendo el nudo gordiano por el simple procedimiento de cortarlo, sin dejarse enredar por su complejidad; eso sí, para lograrlo necesita una espada y muchos de los sistemas actuales lo primero que hacen es arrebatarle el equivalente metafórico de la espada, es decir, conciencia situacional plena y autoridad indiscutible sobre el sistema que está manejando.
La moderna inteligencia artificial va mucho más allá de la complejidad de automatismos ciegos en los que la complejidad proviene de una lógica interna con multitud de ramas no conocidas y de una interacción con sensores y efectores no conocida en detalle por quien los maneja. No es ésa la complejidad de la inteligencia artificial; ésta evoluciona y es capaz de mejorar pero…
- ¿Le han marcado correctamente las prioridades de forma que el propio proceso de aprendizaje no pueda hackearlas y producir resultados inesperados?
- ¿Es capaz de atender a situaciones cambiantes donde la respuesta correcta implica una revisión de las prioridades y los criterios de éxito?
- ¿Puede enredarse en situaciones que requieran un aumento inasumible de memoria o tiempo de procesamiento?
- ¿Puede enredarse en situaciones donde no sea capaz de encontrar una respuesta válida y continúe buscándola indefinidamente?
Cada una de estas preguntas puede desarrollarse en otras preguntas de rango inferior y más próximas a la operativa concreta pero, desde un punto de vista estrictamente funcional, son las preguntas a responder y no son fáciles.
Una persona, que conozca a fondo el área de conocimiento a la que se aplica la inteligencia artificial, no tendrá ninguno de estos problemas, sin que ello implique que no pueda ser superada en terrenos donde las reglas son fijas y los objetivos no están sujetos a cambios.
Así, la inteligencia artificial representa un desarrollo tecnológico capaz de competir con ventaja contra humanos en los terrenos en que ha desarrollado su aprendizaje y siempre que disponga de reglas fijas; al mismo tiempo, ese mismo desarrollo es una mala caricatura de un experto cuando las situaciones son ambiguas y cambiantes.
Pueden encontrarse situaciones en que programas de inteligencia artificial ya ampliamente populares son utilizados para realizar tareas en las que se ahorra un buen número de horas de trabajo; al mismo tiempo, hay ocasiones en que las soluciones proporcionadas distan mucho de tener una calidad medianamente buena; lo peor de todo es que no siempre es fácil entender por qué en un caso ha dado una respuesta excelente y en otro, aparentemente muy parecido, ha contestado una trivialidad o ha dado una información errónea.
Sin embargo, su utilización va creciendo de forma bastante acrítica porque, a pesar de estos inconvenientes, la inteligencia artificial puede dar soluciones rápidas y que, incluso en los casos en que su calidad sea cuestionable, pueden pasar como suficientes. Un fenómeno habitual es que la calidad de las respuestas sea vista de forma muy distinta por alguien que es nuevo en el ámbito de conocimiento y por un experto en ese mismo ámbito.
¿Por qué el grado de aceptación es superior a lo que justifican los resultados? Los expertos en calidad nos han enseñado que el coste de la mejora marginal crece exponencialmente; ello puede conducir a conformarse con un resultado mediocre si éste resulta mucho más fácil de conseguir que un resultado excelente y éste sería uno de los primeros peligros de la inteligencia artificial:
Disminuir el valor asociado al conocimiento humano, mucho más lento costoso de adquirir, y preferir una versión degradada de éste conduce a una degradación del conocimiento humano y, con ello, no sólo de la capacidad asociada a la utilización de tal conocimiento sino de la capacidad para marcarle objetivos adecuados a la inteligencia artificial. En otras palabras, podría producirse un parón en la generación de conocimiento y en el desarrollo resultante; además, ese parón no afectaría sólo al conocimiento humano sino también a la capacidad de desarrollo de la inteligencia artificial.
Otro aspecto esperable es una situación de desempleo masivo en todo el mundo; en muchas actividades, la inteligencia artificial podría llevar a cabo las tareas necesarias, en unos casos con mayor calidad que su contraparte humana y en otros, con menor calidad, pero siempre con mucho menor coste de procesamiento.
Normalmente, cuando se utiliza este argumento, cabe esperar como respuesta una referencia a la Revolución Industrial y cómo hubo cambios de tipos de trabajo, pero, globalmente, la cantidad de trabajo existente no sólo no disminuyó, sino que aumentó. ¿Cabe esperar algo parecido ahora? No; debe tenerse en cuenta que la reproducción de sistemas digitales tiene un coste cercano a cero y, por tanto, el número de especialistas en inteligencia artificial no es, en absoluto, proporcional a la cantidad de potencia instalada. De igual modo y por la misma lógica, no se necesita un número de programadores de Windows proporcional al número de unidades en funcionamiento.
Alguien podría pensar que esto vale para el diseño básico, pero no para la adaptación y la implantación. Si es así, recordemos la diferencia entre los sistemas AlphaGo y AlphaZero: El primero fue diseñado específicamente para jugar al Go y competir con el campeón mundial del momento al que derrotó; el segundo fue diseñado para aprender de cualquier conjunto de dato que se le facilitase; cuando le facilitaron un conjunto de datos sobre Go, AlphaZero aprendió el juego con una calidad suficiente para derrotar a AlphaGo, que a su vez había derrotado a un campeón mundial, y aprendió otros juegos en los que también fue capaz de derrotar a programas especializados. ¿De verdad, en ese contexto, alguien puede creer que la adaptación individual y la implantación va a proporcionar el número de puestos de trabajo que produzca un nuevo efecto Revolución Industrial?
¿Puede funcionar un mundo donde el trabajo sea algo cuantitativamente marginal? En teoría, sí. Los aumentos de productividad en actividades donde el trabajo humano sería mínimo o inexistente podrían permitir soluciones como los subsidios universales, en su día defendidos por el propio Keynes, pero ¿quién los controlaría? Una sociedad en la que el trabajo es algo realizado por unos pocos y, probablemente, durante un corto tiempo es una sociedad que, casi por fuerza, funciona mediante una planificación central, es decir, el modelo que Hayek criticaba en “Camino de servidumbre”.
Naturalmente, éste sería el primer paso. Los pasos siguientes consistirían en determinar cuántas personas pueden ser mantenidas por ese sistema centralizado, eliminando toda libertad individual en cuestiones como tener o no hijos y prácticas como la eugenesia y la eutanasia formarían parte del paisaje, con carácter obligatorio.
Curiosamente, este sistema de planificación central apoyado en una eclosión de la inteligencia artificial caería en el mismo problema que todos los sistemas de planificación central anteriores: ¿Cuál es el incentivo para conseguir una mayor productividad? ¿No llegaríamos a una especie de “planeta de los simios”, viviendo del progreso realizado por otros en épocas anteriores?
Cuando alguien dice que la inteligencia artificial puede significar el fin de la humanidad, no es previsible que piense en una nueva edición de “Terminator”, sino en el fin de una humanidad donde el individuo tiene un valor intrínseco y no es una mera pieza de un Leviatán digital.
Si el trabajo desaparece, es previsible que los demás elementos -planificación central, pérdida de valor del individuo, determinación de cuántos habitantes tiene que haber, eugenesia, eutanasia, etc.- aparezcan como una consecuencia lógica.
Por otra parte, puesto que la inteligencia artificial necesita que le faciliten objetivos y la experiencia demuestra que ésta no es una tarea fácil, la regresión hacia la mediocridad del conocimiento humano haría difícil el progreso, incluso si éste se pretende que esté basado en la inteligencia artificial. Llegados aquí, efectivamente, la humanidad tal como la conocemos, habría desaparecido.
Factor Humano 
Debe estar conectado para enviar un comentario.