Lo Imposible

Durante siglos la imagen era la prueba irrefutable. El testimonio visual, el argumento más difícil de rebatir. Cuando una fotografía aparecía en un periódico acompañando un texto se podía cuestionar la palabra pero no la imagen.  

Ese pacto de confianza se está rompiendo. Y una vez roto es muy difícil de reconstruir.

El 3 de febrero, en el marco del OFF Festival en Madrid [i], el periodista Pedro Piqueras, la lingüista y catedrática de la Universitat de Barcelona Estrella Montolío, el filólogo y exdirector de la RAE Darío Villanueva y Diego Hidalgo, fundador del Movimiento OFF, examinaron en una mesa redonda la nueva realidad tecnológica en relación con esta cuestión. ¿Cómo hemos llegado hasta esta situación en la que lo sensato es dudar de todo lo que nos llega a través de internet sabiendo que algo así resulta imposible y que en algún momento tendremos que confiar en lo que vemos y leemos? Es decir, ahora que la verdad está fuera de su eje, ¿qué nos queda?
 

De Stalin a Burkina Faso: el mismo truco, otra escala

Hace un siglo, Josef Stalin ordenó borrar la figura de León Trotsky de todas las fotografías en las que aparecía junto a Lenin para restarle credibilidad. Era un proceso metódico, casi artesanal, ejecutado desde la cumbre de un poder vertical.

Hace unos meses un adolescente de 17 años en Burkina Faso generó en cuestión de minutos un vídeo deepfake anunciando un golpe de Estado en Francia, con helicópteros sobrevolando París, una supuesta periodista informando en directo, y la voz y la imagen del presidente Macron. En tres o cuatro horas, el vídeo difundido en plataformas de Meta, esencialmente Facebook y realizado con Sora 2 (una herramienta gratuita de OpenAI) había llegado a doce millones de personas.

Cuando el gobierno francés alertó a Meta para que retirara el vídeo la respuesta de la plataforma fue que el contenido respetaba sus “normas de uso”. 

La diferencia entre borrar a Trotski de unas fotos y asaltar el parlamento francés no es técnica. Es de escala, velocidad y accesibilidad. Como señaló Diego Hidalgo durante la mesa redonda: "Lo que ha cambiado no es que alguien mienta con imágenes sino la democratización y agilidad de este proceso: cualquiera puede hacerlo, en tiempo real, y alcanzar a todo el mundo". 

Sin embargo, el problema de los bulos en el espacio digital no se limita a un problema de producción; si así fuera, solo haría falta acusar al malvado creador y eliminar las imágenes falsas antes de que circulen. En un plis plas estaríamos a salvo. Bueno, mala noticia, no funciona así. 

El verdadero amplificador de la falsedad son las plataformas que la distribuyen, no la tecnología que la crea. Pero hay otro factor: nosotros mismos como receptores de la falsedad. 

Darío Villanueva hizo hincapié en el concepto del sesgo de confirmación: "Tenemos una tendencia natural a preferir la confirmación de nuestras ideas previas, aunque sean falsas, ante la evidencia de que lo son. El sesgo de confirmación significa que preferimos continuar en una posición homogénea con nuestras convicciones, aunque se nos demuestre de manera efectiva que son falsas."

Imagen

No nos engañan solo porque las imágenes sean persuasivas. Nos engañan también porque, en cierta medida, queremos que nos engañen. Como recordó Villanueva citando a Maquiavelo: "Los súbditos están deseando que les mienta”. 

Estrella Montolío añadió una nueva dimensión: "Lo que tenemos al frente de estos oligopolios son los mejores especialistas en ciencias conductuales. Ellos lo saben todo. Estamos conducidos por sesgos en nuestra contra y a su favor". 

La voz, ¿la última frontera?

Si la imagen ya no es prueba, ¿qué queda? La voz humana es la huella más íntima y aparentemente inimitable de un individuo. Reconocemos la voz nuestra madre, de hijos, de amigos, incluso antes de procesar lo que dicen.  La voz activa una conexión emocional directa, profunda, difícilmente racional.

Estrella Montolío, lingüista y catedrática de la Universitat de Barcelona, planteó durante la mesa redonda una cuestión fundamental: ¿qué ocurre cuando esa voz también puede ser falsificada con total verosimilitud?

"El riesgo es que dudemos sistemáticamente", advirtió. "Si oímos una voz que parece la de nuestro hijo, la de nuestra madre, pero no sabemos si ha sido falsificada, el daño no es solo informativo. Es una ruptura del vínculo de confianza más primario entre personas."

No es ciencia ficción, esto ya ocurre en procesos judiciales, en estafas telefónicas, en operaciones de desinformación política. Y la tecnología para hacerlo está disponible, de forma gratuita, para cualquiera.
 

La soledad acrecienta la vulnerabilidad a la mentira

Pedro Piqueras trajo a la mesa un dato que parece, a primera vista, alejado del tema: en el año 2000, el 15% de los adultos norteamericanos cenaban solos todos los días de la semana. En 2023, esa proporción se había incrementado un 30%. 

Pero, ¿qué tiene que ver cenar solo con creer un deepfake?

Una persona que vive en aislamiento social no contrasta la información que consume con otros puntos de vista. No la somete a la fricción de la conversación, de la duda, sino que valida esa noticia consigo mismo. Quien vive en aislamiento social no contrasta la información que recibe con otros puntos de vista ni sus propias ideas y conclusiones, que, en la soledad de su cocina y frente a un plato de espaguetis con queso, pueden llegar a parecer definitivas. La soledad contribuye también a una vulnerabilidad informacional y a los prejuicios y, desde luego, ante la mentira; y las pantallas, diseñadas para sustituir la compañía humana, agravan ese aislamiento haciéndonos más susceptibles a los mensajes que recibimos a través de ellas. 

Estrella Montolío lo documenta desde la capacidad de analizar el discurso: "Lo que se está demostrando es que los jóvenes que no han tenido en sus familias de un número suficientemente crítico de comidas en familia aquí y ahora, sin dispositivos, no han desarrollado suficientes patrones de empatía”.

La razón es neurológica: sin ese número crítico de interacciones presenciales, las neuronas espejo, responsables de leer el estado emocional del otro, de reconocer que un ceño fruncido significa enfado, no se desarrollan con suficiente robustez. 

Por otro lado, Diego Hidalgo sostuvo que la hiperconexión favorecida por una pérdida de distancia física con los dispositivos digitales cada vez más invasivos implica una pérdida de distancia crítica. “Si una persona llevara puestas gafas de realidad aumentada de forma permanente, que permitieran a terceros añadir capas adicionales que condicionaran su percepción de la realidad, esto afectaría de forma muy marcada su capacidad de discernimiento.”
 

¿Qué podemos hacer? 

Darío Villanueva reivindicó la educación, insistió en la necesidad de reforzar el pensamiento científico y humanístico, del “Sapere aude” de Immanuel Kant: atrévete a pensar por ti mismo. Una sociedad bien formada es más resistente a la manipulación. Pero construirla lleva décadas.

Estrella Montolío insistió en la importancia de “volver a la conversación. No a la conversación mediada por pantallas, sino a la presencia física, a la sincronización corporal y cerebral que se produce cuando dos personas hablan aquí y ahora”. 
 

Pasar de la reflexión a la acción 

Desde el Movimiento OFF trabajamos para transformar la inquietud en fuerza accional y responder a este reto de manera colectiva, coordinando acciones locales y globales capaces de generar un cambio real, como OFF February.

Como sostuvo en esta mesa redonda Diego Hidalgo, fundador del Movimiento OFF, la regulación es una condición necesaria pero no suficiente: "El problema no es solo la veracidad de las imágenes sino el modelo de vida que estas tecnologías están imponiendo. La pregunta ya no es únicamente si podemos seguir confiando en lo que vemos. Es si queremos seguir viviendo dentro de estos sistemas tal como están diseñados". 

Si la imagen ha perdido su estatuto probatorio, quizás sea el momento de replantearnos el lugar que queremos que la tecnología ocupe en nuestra vida. En este campo en concreto, hay propuestas sencillas de implementar: informarse a través de varios medios, aprender a confrontar titulares, a dilucidar la trama, a ejercer el criterio propio en lugar de delegarlo. Porque lo que los deepfakes, los bulos y los algoritmos no pueden falsificar es una mente que ha aprendido a dudar críticamente.

Una imagen ya no vale más que mil palabras. Pero mil palabras mal leídas tampoco nos salvan. 
 

[i] OFF Festival forma parte de OFF February, una iniciativa del Movimiento OFF que invita a los participantes a borrar las aplicaciones de redes sociales durante los 28 días de febrero. La primera edición del festival tuvo como sede Madrid con mesas redondas, propuestas culturales y conferencias performativas para repensar colectivamente nuestro presente y futuro digital. Web del Movimiento OFF: offm.org