Lo Imposible

Hace unos meses, la revista «Grand Continent» publicó un libro titulado: «El Imperio de las sombras: Guerra y tierra en la era de la IA». La expresión estaba bien elegida: detrás del smartphone, que se ha convertido en una prolongación de nuestro cuerpo y en un apéndice de nuestra forma de estar en el mundo; detrás de una galería de aplicaciones que nos simplifican la vida a la vez que la complican; detrás de nuestro dedo que se desliza por la pantalla en el andén del metro y en cualquier otro lugar, hay un Imperio oculto. Y cuando pulsamos frenéticamente las teclas de este dispositivo (y de sus corolarios, ordenadores, iPads, tabletas y demás) que se ha convertido en nuestra ventana al mundo, no pensamos realmente en ello. Sabemos bien, sentimos bien, que esta gratuidad nos saldrá muy cara algún día, que este contenido alimenta a un monstruo al que le ofrecemos no solo nuestros datos, sino también nuestros gustos, nuestras opiniones, nuestras ideas. Da igual, pensamos, no es tan grave. 

Nos decimos que, al fin y al cabo, esos miles de millones de datos se almacenan mágicamente en una «nube digital» de dimensiones infinitas, y no en gigantescos centros de datos que agotan los acuíferos y consumen una parte cada vez mayor de la producción de electricidad. Sí, ¿y qué?, se descarta de un manotazo, como si se hiciera a un lado una pregunta incómoda. Sabemos bien que estos instrumentos tecnológicos y sus algoritmos, que esta IA superpoderosa —que para algunos constituyen la quinta gran revolución, tras la agricultura, la imprenta, la máquina de vapor e Internet— nos sumergen en un abismo cognitivo capaz de provocar vértigo. Sin embargo, por pereza, no nos fijamos en quienes ostentan ese poder sin igual. 

Los nombres de quienes dirigen estos gigantes son, por supuesto, conocidos por la mayoría: Elon Musk, Sam Altman, Mark Zuckerberg… La importancia de estas «grandes tecnológicas» es ya tal en nuestras vidas —y, concretamente, su capacidad para condicionarlas— que conviene ahora calificar este poder cada vez más real y más influyente. La expresión «tecno-cesarismo» es la elegida por muchos de los que se ocupan de esta cuestión: una alianza entre el antiguo concepto de Emperador y la propia herramienta tecnológica. En una estimulante obra sobre estos nuevos amos, el exministro de Economía griego Yannis Varoufakis habla de «tecno-feudalismo»: insiste en que este nuevo capitalismo se interesa menos por el beneficio que por la propiedad de un territorio —ya no físico, sino digital— del que ellos serían los señores indiscutibles, junto a los cuales no somos más que vasallos a los que no nos queda más remedio que someternos, a ser posible inclinando la cabeza. 

«El proyecto tecno-cesarista produce una máquina de caos a base de redes y otras herramientas digitales que socavan desde dentro los cimientos mismos de las democracias liberales (…) Esto implica la eliminación de las antiguas élites moderadas, socialdemócratas y liberales, y su sustitución por líderes extremistas que ampliarían aún más la reconstrucción de las instituciones democráticas».

Lo que el gran público tiende a pasar por alto, por falta de información y de perspectiva en un mundo frenético donde todo avanza a una velocidad supersónica, es que estos magnates de una nueva era no son solo directivos de gigantescas empresas lanzados a una carrera desenfrenada por el beneficio. Son —al menos algunos de ellos— portadores de un proyecto. El escritor Giuliano da Empoli, autor del famoso «El mago del Kremlin», llevado al cine, lo resume así: «El proyecto tecno-cesarista produce una máquina de caos a base de redes y otras herramientas digitales que socavan desde dentro los cimientos mismos de las democracias liberales (…) Esto implica la eliminación de las antiguas élites moderadas, socialdemócratas y liberales, y su sustitución por líderes extremistas que ampliarían aún más la reconstrucción de las instituciones democráticas».

A sus ojos, de hecho, la democracia es problemática: sus procesos de toma de decisiones son lentos, sus contrapoderes no son más que obstáculos para su voluntad de avanzar, y el Estado de derecho es una verruga que hay que extirpar. El ciudadano molesta, viva el usuario: este último sirve a los designios de un poder tecnológico que se acopla a la perfección con una gobernanza iliberal. El 20 de enero de 2025, durante la investidura de Trump II en presencia de los «Señores» de las plataformas digitales, el tecno-cesarismo salió a la luz. Pero ya hace muchos años que varios de ellos han elaborado una visión de un mundo por venir, moldeado a su antojo, y que sería radiante. Su singularidad: son tanto protagonistas de negocios —en los que sus intereses financieros están directamente en juego— como ideólogos. 

De ahí el interés de leer con atención a personas como Marc Andreessen, inversor y una de las voces influyentes del universo Trump; Sam Altman, cofundador de OpenAI y su ChatGPT; o Peter Thiel, uno de los principales inversores de Silicon Valley. Lo que llama la atención es que cada uno defiende una teoría de la felicidad. En esencia: si bien el mundo físico es ciertamente limitado, el poder de la tecnología dará lugar a un mundo de opulencia y abundancia en el que se abolirán el hambre, la miseria, la enfermedad y el deterioro. Alrededor de 2010, según numerosas voces que han frecuentado este ecosistema desde dentro, estas profecías triunfantes dieron un giro narrativo en virtud del cual esos mismos «tecno-optimistas» dejaron de defender una felicidad universal para centrarse en la suya propia. En detrimento de los demás: nosotros, es decir, la inmensa mayoría de los seres humanos.

Aunque, a ojos de sus impulsores, esto no entre en contradicción con su idea de la felicidad, el proyecto tecno-cesarista es indisociable de una voluntad de control y vigilancia —muy similar, por ejemplo, a lo que está desarrollando y poniendo en práctica el Partido Comunista Chino—. «Los ciudadanos se comportarán mejor, porque vigilaremos y grabaremos todo lo que ocurra», afirma Larry Ellison, cofundador de la empresa Oracle y uno de los hombres más ricos del mundo, solo por detrás de Elon Musk. ¿Por qué no hay contradicción con su noción de felicidad? Sencillo: para ellos, la felicidad consiste en el uso ilimitado del poder. De ahí, por cierto, que compartan la fe en la consecución de la inmortalidad. 

Es evidente que, tras la fachada de sus ambiciones, se esconde la afirmación de un autoritarismo sin complejos. Y esto, en detrimento de nuestra propia autonomía. Sin embargo, como subraya Giuliano da Empoli, «ser libre no es tener un amo benevolente, sino no tener ningún amo». El pasado mes de febrero, cuando Pedro Sánchez anunció su intención de prohibir el uso de teléfonos inteligentes a los menores de 16 años y de someter a los responsables de las plataformas digitales a sanciones penales en caso de discursos de odio o contrarios a la legislación vigente, el líder socialista recibió de inmediato una avalancha de insultos por parte de Elon Musk y de Pavel Durov, el multimillonario fundador de Telegram.

"No se trata de un proyecto homogéneo; los nuevos «Césares» no tienen todos la misma conciencia, ni comparten el mismo corpus ideológico. Algunos incluso se burlan de este proyecto, pero actúan en la misma dirección. ¡Y cuidado con quien plantee un cuestionamiento ético sobre este furioso avance de la Historia!" 

A los defensores del tecno-cesarismo no les preocupa el problema de la libertad y la soberanía humana por una sencilla razón: consideran la superioridad de la máquina sobre el hombre como un postulado incuestionable. El futuro será poshumano, y el ser humano tal y como lo conocemos hoy en día está abocado a convertirse en una especie híbrida sometida al poder de la tecnología. 

Una vez más, Giuliano da Empoli no tiene ninguna duda sobre la psicología de estos «Césares» de la tecnología: «La mayoría de ellos muestra una voluntad frenética de erradicar todo rastro de humanidad para alcanzar el horizonte de la singularidad: el momento en que ya nada distinguirá a lo humano de lo artificial. Hay algo de maníaco en el empeño con el que los nuevos oligarcas se obstinan en calificar de «sobrehumana» una forma de inteligencia implacablemente productiva, pero totalmente desprovista de sensibilidad y conciencia». La filósofa estadounidense Shannon Valor escribe: «Sus instrumentos, los poderosos sistemas de IA, pueden pintarnos bonitas imágenes, generar vídeos falsos y muchas cosas más. Pero el corazón de una IA está vacío». 

Nadie puede saber hoy con certeza si este proyecto disruptivo y aterrador que es el tecno-cesarismo se impondrá, ya sea parcialmente o en su totalidad. Y, si es así, cuándo. Lo que es seguro es que está en marcha, difuso, en la sombra, tras los parapetos ilusorios que son nuestras pantallas, sus contenidos y sus algoritmos. No se trata de un proyecto homogéneo; los nuevos «Césares» no tienen todos la misma conciencia, ni comparten el mismo corpus ideológico. Algunos incluso se burlan de este proyecto, pero actúan en la misma dirección. ¡Y cuidado con quien plantee un cuestionamiento ético sobre este furioso avance de la Historia! `

Recientemente, Dario Amodei, director ejecutivo de Anthropic, la empresa responsable de la IA «Claude», lo ha sufrido en carne propia: al exigir a Donald Trump que tuviera el control sobre la aplicación de su IA en lo que respecta a sus implicaciones militares, vio cómo se rescindían todos sus contratos… en beneficio de Sam Altman y su OpenAI, que no tardó en hacerse con el control de esos mismos contratos. Por lo demás, Dario Amodei, con su lucidez habitual, ha enumerado las cinco amenazas que plantean la IA y los gigantes tecnológicos que la sustentan y desarrollan: 
1) la creación y difusión de armas biológicas y químicas;
2) los ciberataques a gran escala; 
3) la automatización del trabajo y la desinformación; 
4) la desestabilización sociopolítica y la IA en los conflictos (como se ve en Irán)
5) la pérdida de control sobre las IA superinteligentes. 
Esta última es la amenaza «existencial» definitiva, en la que una IA que supere la inteligencia humana actuaría de forma imprevista y destructiva, sin que la humanidad pudiera detenerla.

En medio de esas amenazas, el tecno-cesarismo sigue avanzando. Su poder no es solo tecnológico, sino también cognitivo, vinculado al control de las conciencias. El filósofo de Hong Kong Jianwei Sun ha desarrollado así la tesis de un «Imperio de la hipnocracia». Una forma de hipnosis actuaría sobre nosotros sin que nos diéramos cuenta y condicionaría profundamente nuestras mentes. 

Escribe: «La sociedad algorítmica es una sociedad en la que cada aspecto de la existencia está mediado por tecnologías de sugestión. El capitalismo se ha reestructurado al comprender que el verdadero valor reside en el control de los estados de conciencia. Ya no es necesario poseer fábricas si se puede poseer las mentes. (…) Es un sistema en el que los poderes económico, político y tecnológico convergen en la capacidad de inducir, mantener y modular estados alterados de conciencia a escala global». Ante un adversario así, ante estos poderosos «señores de la Tecnología», ¿qué hacer? Shoshana Zuboff, autora de «La era del capitalismo de la vigilancia» y una de las mentes más incisivas y esclarecedoras sobre esta nueva forma de dominación, considera que, ante la modificación del comportamiento humano por parte de las «Big Tech», solo hay una actitud posible: resistir.