Enrique Dans

A lo largo de unas horas, una plataforma como Google Earth dejó de ser una representación de la realidad del mundo en forma de mapas y perspectivas aéreas, para convertirse en una máquina capaz de reescribirlo. Sin previo aviso, a Google le dio por integrar en el servicio su generador de imágenes Nano Banana 2, y por permitir que cualquier usuario tomase cualquier localización real, apoyada en imágenes aéreas, satelitales y modelos tridimensionales, y pudiese crear sobre él literalmente lo que le diese la gana de ver allí. Una urbanización de adosados, una reconstrucción histórica, una ciudad futurista… o, por qué no, un bombardeo, una invasión, un campo de refugiados o una central nuclear inexistente. ¿Por qué hizo Google algo así? Simplemente, «porque puede». Para lucir sus capacidades, para transmitir su poderío, o simplemente, porque nadie pensó en los posibles riesgos.

La propia presentación de Google invitaba al usuario a «transformar cualquier lugar», y destacaba supuestas aplicaciones educativas, urbanísticas o inmobiliarias. Como era de esperar, el experimento duró apenas un día: varios periodistas de BBC Verify consiguieron generar rápidamente una torre Eiffel derruída, un enorme socavón tragándose la pirámide de Giza, y tanques rusos paseando por Kiev. Otros investigadores fabricaron un hospital bombardeado en Gaza, instalaciones nucleares en Irán o campamentos de refugiados en la frontera entre México y Estados Unidos. En unas horas, Google retiró la función mientras prometía crear en ella «salvaguardas más fuertes». Los imbéciles irresponsables de Google, tomando una página prestada de los idiotas irresponsables de Meta: la pregunta no es cómo pudieron los usuarios hacer esas cosas, sino cómo pudo Google no imaginar que las harían.

El episodio parece extraído directamente de «Mountainhead«, la película escrita y dirigida por Jesse Armstrong en la que cuatro multimillonarios tecnológicos contemplan desde una mansión en lo alto de la montaña cómo el mundo se incendia por culpa de los deepfakes distribuidos por una de sus plataformas, mientras compiten por ver quien acumula más billones. Si no la has visto, te la recomiendo vivamente, porque es un reflejo fiel de lo que estamos viviendo. En ella, los personajes discuten sobre valoraciones, adquisiciones y poder mientras, fuera de su burbuja, la desinformación provoca disturbios de todo tipo, persecuciones y muertes. Cuando se estrenó, algunos críticos señalaron que la película estaba tan cerca de la realidad que casi no funcionaba como sátira. Ahora, cada vez más, empieza a ser directamente un documental.

Google argumenta que las imágenes estaban marcadas como generadas por inteligencia artificial, y que no se incorporaban al mapa visible para otros usuarios (¡solo faltaría!!). Es una defensa absurda y extraordinariamente floja, como planteada por una persona completamente carente de sensibilidad: una captura de pantalla pierde siempre de forma inmediata el contexto de su interfaz, circula sin parar por redes sociales. y llega siempre a personas que no se ponen a comprobar jamás su procedencia. Además, BBC Verify descubrió que la marca invisible de Google y las diversas herramientas de detección existentes podían ser fácilmente engañadas. Los investigadores sobre deepfakes llevan años advirtiendo que las marcas de agua solo sirven si son extraordinariamente resistentes, y que identificar contenido sintético tras su difusión es muchísimo más difícil que impedir su creación o que conservar una cadena verificable de su procedencia.

Pero aquí hay algo todavía más grave: Google Earth no es un generador de imágenes cualquiera, se ha convertido en una infraestructura de confianza. Periodistas, investigadores de fuentes abiertas, organizaciones humanitarias y ciudadanos lo utilizan como referencia para comprobar dónde ocurrió algo, las características de un terreno o si una imagen coincide con una determinada localización. Como comenta un investigador en el Financial Times, introducir generación sintética dentro de esa misma herramienta equivale a contaminar el instrumento empleado para verificar las falsificaciones. La mentira no solo parece real, sino que incluso hereda la credibilidad del mapa sobre el que ha sido construida.

Durante años, las plataformas tecnológicas han tratado la desinformación como un efecto secundario incómodo de productos esencialmente beneficiosos. Pero la UNESCO recuerda que esos entornos se han convertido también en ecosistemas de polarización, odio e incitación a la violencia. Associated Press ha documentado cómo los deepfakes pueden fabricar atentados inexistentes, crisis bancarias o, como ha ocurrido recientemente, falsas hospitalizaciones de candidatos. No estamos hablando simplemente de que alguien crea algo incorrecto durante unos minutos: hablamos de personas señaladas, insultadas, perseguidas o asesinadas, de mercados alterados, de conflictos armados alimentados con pruebas falsas, de turbas que muchas veces se echan a la calle y actúan antes de que llegue cualquier tipo de verificación.

Lo verdaderamente amargo es comprobar en manos de quién estamos: empresas con recursos prácticamente ilimitados que lanzan, como jugando, productos de alcance planetario, y parecen descubrir sus consecuencias con una estúpida cara de sorpresa, al mismo tiempo que los usuarios. La secuencia se repite: primero se despliega, después se observa el daño y finalmente se anuncia que se trabajará en nuevas salvaguardas. La sociedad como laboratorio, y nosotros como cobayas.

No se trata de oponerse a la inteligencia artificial generativa, ni de negar sus posibilidades para imaginar ciudades, reconstruir el pasado o visualizar proyectos. Se trata de exigir que quienes poseen un gran poder, lo ejerzan con un mínimo de responsabilidad. La capacidad de alterar la percepción de la realidad debe implicar que se asuma una responsabilidad proporcional a ese poder. Lo de «moverse rápido y romper cosas» ya era una consigna estúpidamente irresponsable cuando lo que se rompía era un mercado. Cuando lo que puede romperse es el consenso básico sobre lo que ha ocurrido realmente, la frase llega a adquirir un significado mucho más siniestro.

Google reaccionó y retiró la herramienta. Pero hacerlo veinticuatro horas después no demuestra responsabilidad: demuestra que nadie formuló antes las preguntas más elementales: ¿cómo y quiénes van a abusar de esto? ¿Quién o qué podría resultar dañado? ¿Qué ocurrirá cuando una imagen falsa llegue a una zona en guerra, a una campaña electoral o a una comunidad tensionada?

«Mountainhead» imaginaba una élite tecnológica tan fascinada por sus productos y sus billones, que había dejado completamente de ver a las personas afectadas por ellos o de pensar en las consecuencias. Lo inquietante es que quizá Jesse Armstrong no estaba imaginando nada: estaba simplemente mirando.

This article is also available in English on my Medium page, «Mountainhead’s satire melts in the face of Google Earth’s Nano Banana 2 fiasco»