Cultura y Ciencia: Limitaciones de la I.A 2) Artículo de Muñoz Molina.Literatura

 A continuación comparto con vosotros dos artículos. Uno sobre las limitaciones de la inteligencia artificial y otro sobre literatura de Antonio Muñoz Molina analizando la obra de James y de Le Carré.

1)

Artículo sobre la Inteligencia Artificial publicado en Tendencias

comunicaciones.prensaiberica.es>

La inestabilidad es el talón de Aquiles de la IA moderna

 

Una paradoja matemática demuestra los límites de la Inteligencia Artificial

 

 

                                      Onda de datos binarios. YUICHIRO CHINO. CAMBRIDGE UNIVERSITY

 

Los humanos suelen ser bastante buenos para reconocer cuando se equivocan, pero los sistemas de inteligencia artificial no lo son. Según un nuevo estudio, la IA generalmente sufre de limitaciones inherentes debido a una paradoja matemática centenaria.

 

Al igual que algunas personas, los sistemas de Inteligencia Artificial (IA) suelen tener un grado de confianza que supera con creces sus capacidades reales. Y como una persona con exceso de confianza, muchos sistemas de IA no saben cuándo están cometiendo errores. A veces es incluso más difícil para un sistema de IA darse cuenta de que está cometiendo un error, que producir un resultado correcto.

 

Investigadores de la Universidad de Cambridge y de la Universidad de Oslo aseguran que la inestabilidad es el talón de Aquiles de la IA moderna y que una paradoja matemática pone de manifiesto las limitaciones de la IA. 

Las redes neuronales, la herramienta de vanguardia en IA, imitan los enlaces entre las neuronas en el cerebro. Sin embargo, estos investigadores consideran que existen problemas donde existen redes neuronales estables y precisas, porque ningún algoritmo puede producir una red con esas características. Solo en casos específicos los algoritmos pueden calcular redes neuronales estables y precisas.

 

Nueva teoría

Los investigadores proponen una teoría de clasificación que describe cuándo se puede entrenar a las redes neuronales para que proporcionen un sistema de IA confiable bajo ciertas condiciones específicas. Sus resultados se publican en PNAS.

El aprendizaje profundo, la tecnología de inteligencia artificial líder para el reconocimiento de patrones, ha sido objeto de numerosos titulares que no dejan de sorprendernos. 

PUBLICIDAD

Los ejemplos incluyen el diagnóstico de enfermedades con mayor precisión que los médicos, o la prevención de accidentes de tráfico mediante la conducción autónoma. Sin embargo, muchos sistemas de aprendizaje profundo no son confiables y son fáciles de engañar.

 

Paradoja matemática

 

La paradoja identificada por los investigadores, que cuestiona la fiabilidad de la IA, se remonta a dos gigantes matemáticos del siglo XX: Alan Turing y Kurt Gödel. 

A principios del siglo XX, los matemáticos intentaron justificar las matemáticas como el último lenguaje coherente de la ciencia. Sin embargo, Turing y Gödel mostraron una paradoja latente en el corazón de las matemáticas: es imposible probar que ciertas afirmaciones matemáticas son verdaderas o falsas, y algunos problemas computacionales no pueden abordarse con algoritmos. 

Y, cuando un sistema matemático es lo suficientemente rico para describir la aritmética que aprendemos en la escuela, no puede probar su propia consistencia.

 

Problema sin resolver

 

Décadas más tarde, el matemático Steve Smale propuso una lista de 18 problemas matemáticos sin resolver para el siglo XXI. El problema 18 se refería a los límites de la inteligencia, tanto para humanos como para máquinas.

Los investigadores dicen que, debido a esta paradoja, hay casos en los que pueden existir buenas redes neuronales, pero añaden que no se puede construir una IA inherentemente confiable.

La imposibilidad de que una red neuronal compute adecuadamente es cierta independientemente de la cantidad de datos gestione.  No importa a cuántos datos pueda acceder un algoritmo, no producirá la red deseada. 

Esto es similar al argumento de Turing: hay problemas computacionales que no pueden resolverse independientemente de la potencia informática y el tiempo de ejecución, dicen los investigadores.

 

Efecto limitado

 

Añaden que no toda la IA tiene fallos inherentes, pero que solo es confiable en áreas específicas, utilizando métodos específicos. 

“El problema está en las áreas en las que se necesita una garantía, porque muchos sistemas de inteligencia artificial son una caja negra”, explica uno de los autores, Matthew Colbrook, del Departamento de Matemáticas Aplicadas y Física Teórica de la Universidad de Cambridge.

“Es comprensible que en algunas situaciones una IA cometa errores, pero debe ser honesta al respecto. Y eso no es lo que estamos viendo en muchos sistemas: no hay forma de saber cuándo tienen más o menos confianza en una decisión”.

“Actualmente, los sistemas de IA a veces pueden tener un toque de conjetura”, añade otro de los investigadores, Anders Hansen, también de Cambridge. 

 

Limitaciones de enfoque

 

“Intentas algo, y si no funciona, agregas más cosas, con la esperanza de que funcione. En algún momento, te cansarás de no obtener lo que quieres y probarás un método diferente", añade. 

Destaca Hansen que es importante entender las limitaciones de los diferentes enfoques. "Estamos en una etapa en la que los éxitos prácticos de la IA están muy por delante de la teoría y la comprensión. Se necesita un programa para comprender los fundamentos de la computación de IA para cerrar esta brecha", enfatiza.

“Cuando los matemáticos del siglo XX identificaron diferentes paradojas, no dejaron de estudiar matemáticas. Solo tenían que encontrar nuevos caminos, porque entendían las limitaciones”, comenta Colbrook.

“Para la IA, puede ser el momento de cambiar caminos o de desarrollar otros nuevos para construir sistemas que puedan resolver problemas de una manera confiable y transparente, mientras se comprenden sus limitaciones”, añade.

 

Siguientes pasos

 

La siguiente etapa para los investigadores es combinar la teoría de la aproximación, el análisis numérico y los fundamentos de los cálculos, para determinar qué redes neuronales pueden calcularse mediante algoritmos y cuáles pueden hacerse estables y confiables. 

Así como las paradojas sobre las limitaciones de las matemáticas y las computadoras identificadas por Gödel y Turing, condujeron a elaborar ricas teorías que describen tanto las limitaciones como las posibilidades de las matemáticas y los cálculos, tal vez una teoría similar pueda florecer en la IA, concluyen los investigadores.

 

Referencia

The difficulty of computing stable and accurate neural networks: On the barriers of deep learning and Smale’s 18th problem. Matthew J. Colbrook et al. PNAS, March 16, 2022; 119(12)e2107151119. DOI:https://doi.org/10.1073/pnas.2107151119

2)

Imaginar lo que existe

Antonio Muñoz Molina. Babelia

John le Carré

                                                                          Henry James

En estos días de infamia, el novelista a quien más leo es Henry James, pero en el que pienso más es John le Carré. La prosa de Henry James tiene sobre mí un efecto adictivo que en estos días también es calmante, porque dejarme llevar por sus laberintos sintácticos y narrativos me distrae de la sombría obsesión de lo real. La voz escrita, el estilo de James actúan sobre quien es sensible a ellos como si contuvieran una nicotina benéfica que afila la conciencia y estimula la imaginación, y que durante el tiempo de la lectura lo mantiene a uno desconectado del mundo real y absorto en el otro, el mundo a la vez familiar y misterioso de las ficciones de James, tan hechas de matices, atisbos, sugerencias veladas, enigmas desvelados tan gradualmente y de manera tan ambigua que es muy fácil perderse en ellos. En los días en que la covid me impuso un retiro benévolo tuve el sosiego necesario para adentrarme en The Bostonians, una novela más contemporánea ahora que nunca, porque retrata con pormenores sabrosos y algo de ironía los ambientes del primer feminismo americano, el que cobró fuerza después de la guerra civil, cuando el reconocimiento del derecho al voto de los negros no llegó a extenderse a las mujeres. Terminé The Bostonians y, como lo exigente de la lectura había acentuado su disfrute, no quise o no supe salir del mundo de Henry James, y prolongué mi adicción con The Golden Bowl, una novela más tardía y más intrincada, lo mismo en la sintaxis y en el vocabulario que en la historia. Leyéndola tenía a veces la sensación de mirar de cerca uno de esos paisajes del último Monet en los que se disuelven las formas y no se puede distinguir entre lo cierto y lo engañoso y lo reflejado, entre el cielo y el agua.

Para escapar, mientras se pueda, imaginariamente, para evadirse unos minutos o unas horas de la realidad, las novelas de Henry James son insuperables, sobre todo si uno adquirió muy joven el hábito y no ha capitulado con los años del ejercicio exigente de abrirse paso en sus zonas de espesura. A veces el escritor, con la edad, o con la fatiga, se va extraviando en sus propios laberintos: le sucedió a Joyce con Finnegans Wake, a Faulkner con A Fable e Intruder in the Dust, a Onetti con Cuando entonces, tal vez a Nabokov con Ada or Ardor.

John le Carré rara vez se dejó llevar por el ensimismamiento en los propios fantasmas y las propias fantasías porque se mantuvo siempre anclado como un cronista y casi como un espía en la realidad. Y su mirada era tan certera, su inteligencia tan radical, su voluntad de conocimiento tan poderosa que fue quizás el único escritor de su tiempo capaz de imaginar completamente la realidad inaudita del mundo contemporáneo: primero el de la Guerra Fría y después el que nació del derrumbe de la Unión Soviética y del progreso de una globalización cuya prosperidad

La globalización se hizo a costa de la primacía de multinacionales y magnates enriquecidos por negocios criminales

se hizo a costa, en gran medida, del pillaje de los recursos naturales y la primacía despótica de empresas multinacionales sin escrúpulos, magnates enriquecidos hasta límites inconcebibles por negocios criminales, gobiernos depredadores y corruptos.

Contra lo que suele pensarse, imaginar lo que no existe no requiere mucho esfuerzo. Lo que es difícil, y en muchas ocasiones del todo imposible, es imaginar de verdad lo que sí existe, en toda su inmensa complejidad, en toda su rareza y su inverosimilitud, en su desorden, en su perpetua confusión. Novela tras novela, John le Carré imaginó rigurosamente mundos en los que la mayor parte de los escritores no se fijaban. En ellas siempre había altos funcionarios, banqueros, empresarios británicos que conversaban en voz baja con su mejor acento y sus mejores modales, y encubrían golpes de estado, regímenes de tortura, operaciones financieras que dejaban tras de sí un rastro invisible de miseria y de sangre. En las novelas de Le Carré había oligarcas rusos con megayates y mansiones en los mejores barrios de Londres, y ejecutivos de compañías farmacéuticas tan desalmados como los traficantes de armas y los señores del narcotráfico, todos ellos investidos de perfecta respetabilidad gracias a los contactos adecuados en las instituciones occidentales.

Ese mundo que Le Carré imaginó exactamente como era lo vemos ahora en los periódicos y en unos cuantos libros de investigación y denuncia en los que se cuenta la complicidad escandalosa, durante muchos años, de los gobiernos, los bancos, los despachos de abogados, en Europa y en Estados Unidos, y particularmente en Reino Unido, no solo con los oligarcas rusos, sino con un repertorio inmundo de “evasores fiscales, cleptócratas y criminales”, según reza el subtítulo de uno de esos libros, Butler to the World, de Oliver Bullough. Este “mayordomo del mundo”, dice Bullough, son las clases dirigentes británicas, los bancos que ayudan a lavar las fortunas ganadas con el expolio de las riquezas naturales de los países más pobres, los abogados de máxima notoriedad que resuelven todo tipo de problemas legales, los parlamentarios y hasta los miembros de la Cámara de los Lores que se han beneficiado de donaciones multimillonarias a cambio de hacer ciertos favores, los aristócratas que han vendido sus mansiones y sus fincas de nombres legendarios a forajidos que pagaban con sacos de dinero en efectivo, los directores de escuelas y universidades de élite que admitían sin grandes exigencias a los hijos de los oligarcas, las celebridades del espectáculo que aceptaban invitaciones a sus superyates y actuaban para ellos en sus cumpleaños, y de paso les prestaban su brillo, como Leonardo DiCaprio o Paul McCartney, invitados eminentes en uno de los varios yates de Román Abramóvich, que aparte de dos helipuertos, nueve cubiertas y una piscina de 16 metros, también dispone de su propio sistema de defensa antimisiles.

John le Carré retrató como nadie el cinismo corrupto de esa clase dirigente. Él sabía que aquellos arrogantes administradores del Imperio no habían tenido el menor reparo en vestir la chaquetilla de mayordomos serviciales. Los escenarios ingleses por los que antes deambulaban los personajes fantasmales de Henry James se convirtieron en refugios lujosos para los gánsteres al servicio del Kremlin. “En Inglaterra no hay nada ni nadie que no esté en venta”, le dijo en confianza un oligarca a Oliver Bullough. En Moscú, Vladímir Putin, el capo de todos ellos, tomaba nota y sonreía despectivamente.