La rebelión de las élites tecnológicas. A. Diéguez
La rebelión de las élites tecnológicas
Por Antonio Diéguez
Catedrático de Lógica y Filosofía de la Ciencia de la Universidad de Málaga. Miembro de Número de la Academia Malagueña de Ciencias.
https://www.elconfidencial.com/tecnologia/tribuna/2026-05-10/rebelion-elites-tecnologicas-silicon-valley_4351985/
Frente al catastrofismo posthumano de Silicon Valley, el verdadero debate es cómo mantener la tecnología al servicio de los humanos y no de sus nuevos 'monarcas' digitales
Ante los malos augurios que nos llegan acerca del futuro, cabe preguntarse cuándo y por qué la esperanza en un tiempo venidero en el que podrían cumplirse las mejores expectativas de la humanidad, un anhelo que inspiró a los humanistas y a los ilustrados, dejó paso no ya al escepticismo, sino al mero temor del fin de nuestra especie. Muchas proclamas tecno-optimistas vienen con una letra pequeña que no suele leerse: no es de nuestra especie tal como la conocemos de la que están hablando cuando describen las maravillas que traerá el porvenir, sino de una especie posthumana que supuestamente ocupará nuestro lugar en este planeta y será la que disfrute de ellas. En el fondo, no hacen sino reiterar una fatalidad con larga tradición intelectual: la felicidad completa no está reservada para nosotros, los humanos, y nunca lo ha estado. Si, por ejemplo, los largoplacistas, como William MacAskill y Toby Ord, creen que, suponiendo que nada se tuerza irremediablemente, estamos solo en los comienzos de nuestra historia y anuncian la posibilidad de un brillante futuro a largo, muy largo plazo, millones de años, no se trata de un futuro para los seres humanos, sino que los sujetos que lo “vivirán” serán posthumanos de los que lo desconocemos todo, excepto su al parecer inexorable hibridación con máquinas inteligentes.
Hay, ciertamente, razones para el pesimismo. Las conocemos bien: cambio climático, proliferación de armas nucleares, pérdida de biodiversidad, agotamiento de recursos naturales, etc. La aparición de una superinteligencia artificial no alineada con los intereses y valores morales humanos ha venido a incorporarse recientemente a todos los viejos temores. Para los largoplacistas oxonienses, es el mayor desafío que tenemos que afrontar. Nunca fueron mayores los peligros porque nunca fue tan potente la tecnología para propiciar nuestra destrucción. No es extraño, por ello, que haya cuajado en los análisis políticos sobre el futuro la noción de “riesgo existencial”, acuñada por el también oxoniense Nick Bostrom. Un riesgo existencial sería aquel capaz de destruir por completo la vida humana y otras muchas formas de vida, o que, en el mejor de los casos, dejaría a lo que quede de la humanidad sin posibilidad de restaurar la civilización. Sería la amenaza de la destrucción permanente y drástica de su potencial para un desarrollo futuro deseable. Bostrom es también de los que cree que una superinteligencia artificial descontrolada es el mayor riesgo existencial al que nos enfrentamos.
Entretanto, vemos con estupefacción que las grandes empresas tecnológicas, además de hacer política, como la habían venido haciendo casi desde los orígenes de la revolución industrial, ahora también teorizan al respecto. Los grandes magnates industriales siempre estuvieron cerca del poder y movieron sus hilos. La novedad estriba en que eso les parece ya poco y se han vuelto magnates-filósofos, que tratan de elaborar su propia ideología y quieren vendérnosla, y resulta que (¡quién lo iba a imaginar!) no es muy favorable a la democracia.
Esto es lo más impactante de los archivos ovni que acaba de desclasificar el Más
No desean manejar el poder desde las sombras, apuestan por una nueva idea: el poder empresarial, que ellos detentan, como modelo del poder sin más. Una nación es una empresa y no se maneja democráticamente. La jerarquía lo es todo. El ideólogo de moda en Silicon Valley, Curtis Yarvin, propugna a las claras un gobierno totalitario mediante la creación de un partido similar al fascista, un hard party, como lo llama, al que describe así: “Un hard party es un partido diseñado para tomar el control incondicional y total del Estado. Un hard party es un partido en el que todos los miembros delegan el 100 % de su energía política en el mando del partido. […] Es cierto que toda transición debe ser lo más ordenada posible, pero un hard party no tiene ni programa ni plataforma de reformas graduales. Solo piensa en dos cosas: a) cómo hacerse con los plenos poderes; b) qué hacer con ellos una vez conseguidos”.
El sueño de Saint-Simon de los ingenieros gobernantes no se ha cumplido aún, pero ellos están empeñados en conseguir algo más distópico: los magnates empresariales convertidos en monarcas absolutos como única salida ante el caos y la posibilidad de autodestrucción. Es una rebelión de las élites tecnológicas, metidas en una carrera implacable en el que el ganador se lo lleva todo, sea lo que sea lo que quede, y sobre todo se lleva más poder. Lo importante en esta competición no es cuánta inteligencia podrán desplegar las máquinas, cuestión en la que caben todos los matices y que dejan para entretenimiento de los filósofos, sino cuánto poder se está acumulando para su manejo. Un poder que, además, no piensan dirigir al beneficio de la humanidad, que les preocupa muy poco.
Su acumulación va dirigida (y todo hace sospechar, dadas sus ansias de inmortalidad, que de forma indefinida), a la mayor gloria de esa misma élite que toma las decisiones sobre nuestro futuro. Es lógico que el 7 de marzo pasado The Economist publicara un editorial proclamando que “El peligro de la IA se ha hecho real”. No deberíamos, sin embargo, dejarnos ofuscar por la reiteración y la trompetería de este discurso. Pese a que estos temores ligados a la IA alcanzan según las encuestas a cada vez más ciudadanos, empezamos también a constatar el descontento, y a saber que los límites de la inteligencia humana (para producir incesantemente buenos datos) se han convertido también en los límites de la propia IA (para obtener un buen entrenamiento). Y hay una convicción ya segura para la mayoría de los expertos, una IA superior a la humana no surgirá de los sistemas actuales mediante un aumento de la capacidad de computación y un entrenamiento con más y mejores datos.
Una parte significativa de ellos piensa que ni siquiera tendremos algo así en un tiempo predecible. Haríamos bien, por tanto, en reducir la ansiedad producida por la palabrería catastrofista y preocuparnos más de cómo vamos a hacer para que la tecnología satisfaga los fines adecuados y continúe al servicio del bienestar humano. Los problemas reales que plantea a diario la IA son otros y podríamos empezar por afrontar uno de los más urgentes: cómo disminuir el poder que las grandes empresas tecnológicas y sus líderes han conseguido. Sería una buena forma de aminorar la incertidumbre y de alejar de nuestra boca el mejunje político neorreaccionario que vienen destilando en Silicon Valley.
Se objetará que ni siquiera esto marcaría una gran diferencia en el resultado final, porque todo indica que (con la inestimable ayuda de Trump, ejemplificada en su reciente decisión de destruir Anthropic por su insumisión) es muy probable que tarde o temprano sea China, es decir, el Partido Comunista de China, o más bien su Buró Político, el que tome las decisiones importantes sobre nuestro futuro tecnológico. El de todos. ¿Disminuiría esto la inquietud? Algo cuenta en su favor: en estos momentos, las normativas chinas sobre la IA existen. No cabe decir lo mismo de los Estados Unidos, si dejamos de lado las regulaciones concretas que han adoptado algunos de sus estados. Pero ya sabemos que en los regímenes autoritarios las normativas valen solo hasta que los de arriba quieren.
¿Podríamos entonces dejarnos llevar por un arrebato de autoconfianza y pensar que, como sucede en algunas ramas concretas de la ciencia (la física de partículas, por ejemplo), o de la tecnología (como la robótica), Europa conseguirá en las próximas décadas liderar la investigación en IA y sabrá reconducirla hacia el bien común? No es, desde luego, descabellado. En la I+D de la inteligencia artificial, Europa presenta un excelente nivel en la "I" de investigación, a la altura de los mejores, y es en la "D" del desarrollo, en la implementación, donde no puede rivalizar con Estados Unidos o China, pero eso puede tener remedio. Un abaratamiento en el entrenamiento de los sistemas de inteligencia artificial, tan caro hoy día que solo las más grandes empresas tecnológicas pueden asumirlo, podría sin ir más lejos volver las cosas mucho más favorables para una Unión Europea que supiera aprovechar la oportunidad.
¿Sería eso suficiente para acallar a los catastrofistas? ¿Una superinteligencia artificial europea sería menos amenazante para la humanidad que una diseñada en Silicon Valley? Afortunadamente, no me impongo la obligación de contestar a esa pregunta, dado que lo que personalmente me tranquiliza al respecto es lo lejos que veo aún la posibilidad de una tal superinteligencia e incluso de una inteligencia artificial general comparable a la humana, la cree quien la cree. Es triste el empeño con el que se busca que la tecnología nos devuelva a los temores de la Edad Media y conviene preguntarse si están fundados esos augurios y qué podemos hacer al respecto.
Ninguna tecnología es un destino inexorable en cuyo camino los seres humanos no puedan intervenir. Como ha dicho el premio Nobel de economía Daron Acemoglu en una entrevista reciente, “tenemos mucha agencia, muchas opciones para dar forma al futuro de la tecnología, y diferentes futuros corresponden a diferentes ganadores y perdedores, diferentes beneficios, diferentes costos, diferentes productividades”. Aunque, admitámoslo, por el momento van ganado ellos.
Comentarios
Publicar un comentario