A lo largo de unas horas, una plataforma como Google Earth dejó de ser una representación de la realidad del mundo en forma de mapas y perspectivas aéreas, para convertirse en una máquina capaz de reescribirlo. Sin previo aviso, a Google le dio por integrar en el servicio su generador de imágenes Nano Banana 2, y por permitir que cualquier usuario tomase cualquier localización real, apoyada en imágenes aéreas, satelitales y modelos tridimensionales, y pudiese crear sobre él literalmente lo que le diese la gana de ver allí. Una urbanización de adosados, una reconstrucción histórica, una ciudad futurista… o, por qué no, un bombardeo, una invasión, un campo de refugiados o una central nuclear inexistente. ¿Por qué hizo Google algo así? Simplemente, «porque puede». Para lucir sus capacidades, para transmitir su poderío, o simplemente, porque nadie pensó en los posibles riesgos.
La propia presentación de Google invitaba al usuario a «transformar cualquier lugar», y destacaba supuestas aplicaciones educativas, urbanísticas o inmobiliarias. Como era de esperar, el experimento duró apenas un día: varios periodistas de BBC Verify consiguieron generar rápidamente una torre Eiffel derruída, un enorme socavón tragándose la pirámide de Giza, y tanques rusos paseando por Kiev. Otros investigadores fabricaron un hospital bombardeado en Gaza, instalaciones nucleares en Irán o campamentos de refugiados en la frontera entre México y Estados Unidos. En unas horas, Google retiró la función mientras prometía crear en ella «salvaguardas más fuertes». Los imbéciles irresponsables de Google, tomando una página prestada de los idiotas irresponsables de Meta: la pregunta no es cómo pudieron los usuarios hacer esas cosas, sino cómo pudo Google no imaginar que las harían.
El episodio parece extraído directamente de «Mountainhead«, la película escrita y dirigida por Jesse Armstrong en la que cuatro multimillonarios tecnológicos contemplan desde una mansión en lo alto de la montaña cómo el mundo se incendia por culpa de los deepfakes distribuidos por una de sus plataformas, mientras compiten por ver quien acumula más billones. Si no la has visto, te la recomiendo vivamente, porque es un reflejo fiel de lo que estamos viviendo. En ella, los personajes discuten sobre valoraciones, adquisiciones y poder mientras, fuera de su burbuja, la desinformación provoca disturbios de todo tipo, persecuciones y muertes. Cuando se estrenó, algunos críticos señalaron que la película estaba tan cerca de la realidad que casi no funcionaba como sátira. Ahora, cada vez más, empieza a ser directamente un documental.
Google argumenta que las imágenes estaban marcadas como generadas por inteligencia artificial, y que no se incorporaban al mapa visible para otros usuarios (¡solo faltaría!!). Es una defensa absurda y extraordinariamente floja, como planteada por una persona completamente carente de sensibilidad: una captura de pantalla pierde siempre de forma inmediata el contexto de su interfaz, circula sin parar por redes sociales. y llega siempre a personas que no se ponen a comprobar jamás su procedencia. Además, BBC Verify descubrió que la marca invisible de Google y las diversas herramientas de detección existentes podían ser fácilmente engañadas. Los investigadores sobre deepfakes llevan años advirtiendo que las marcas de agua solo sirven si son extraordinariamente resistentes, y que identificar contenido sintético tras su difusión es muchísimo más difícil que impedir su creación o que conservar una cadena verificable de su procedencia.
Pero aquí hay algo todavía más grave: Google Earth no es un generador de imágenes cualquiera, se ha convertido en una infraestructura de confianza. Periodistas, investigadores de fuentes abiertas, organizaciones humanitarias y ciudadanos lo utilizan como referencia para comprobar dónde ocurrió algo, las características de un terreno o si una imagen coincide con una determinada localización. Como comenta un investigador en el Financial Times, introducir generación sintética dentro de esa misma herramienta equivale a contaminar el instrumento empleado para verificar las falsificaciones. La mentira no solo parece real, sino que incluso hereda la credibilidad del mapa sobre el que ha sido construida.
Durante años, las plataformas tecnológicas han tratado la desinformación como un efecto secundario incómodo de productos esencialmente beneficiosos. Pero la UNESCO recuerda que esos entornos se han convertido también en ecosistemas de polarización, odio e incitación a la violencia. Associated Press ha documentado cómo los deepfakes pueden fabricar atentados inexistentes, crisis bancarias o, como ha ocurrido recientemente, falsas hospitalizaciones de candidatos. No estamos hablando simplemente de que alguien crea algo incorrecto durante unos minutos: hablamos de personas señaladas, insultadas, perseguidas o asesinadas, de mercados alterados, de conflictos armados alimentados con pruebas falsas, de turbas que muchas veces se echan a la calle y actúan antes de que llegue cualquier tipo de verificación.
Lo verdaderamente amargo es comprobar en manos de quién estamos: empresas con recursos prácticamente ilimitados que lanzan, como jugando, productos de alcance planetario, y parecen descubrir sus consecuencias con una estúpida cara de sorpresa, al mismo tiempo que los usuarios. La secuencia se repite: primero se despliega, después se observa el daño y finalmente se anuncia que se trabajará en nuevas salvaguardas. La sociedad como laboratorio, y nosotros como cobayas.
No se trata de oponerse a la inteligencia artificial generativa, ni de negar sus posibilidades para imaginar ciudades, reconstruir el pasado o visualizar proyectos. Se trata de exigir que quienes poseen un gran poder, lo ejerzan con un mínimo de responsabilidad. La capacidad de alterar la percepción de la realidad debe implicar que se asuma una responsabilidad proporcional a ese poder. Lo de «moverse rápido y romper cosas» ya era una consigna estúpidamente irresponsable cuando lo que se rompía era un mercado. Cuando lo que puede romperse es el consenso básico sobre lo que ha ocurrido realmente, la frase llega a adquirir un significado mucho más siniestro.
Google reaccionó y retiró la herramienta. Pero hacerlo veinticuatro horas después no demuestra responsabilidad: demuestra que nadie formuló antes las preguntas más elementales: ¿cómo y quiénes van a abusar de esto? ¿Quién o qué podría resultar dañado? ¿Qué ocurrirá cuando una imagen falsa llegue a una zona en guerra, a una campaña electoral o a una comunidad tensionada?
«Mountainhead» imaginaba una élite tecnológica tan fascinada por sus productos y sus billones, que había dejado completamente de ver a las personas afectadas por ellos o de pensar en las consecuencias. Lo inquietante es que quizá Jesse Armstrong no estaba imaginando nada: estaba simplemente mirando.
This article is also available in English on my Medium page, «Mountainhead’s satire melts in the face of Google Earth’s Nano Banana 2 fiasco»
«Prohibiríamos los cuchillos, hachas, motosierras, destornilladores, punzones, jeringuillas… porque pueden ser usadas para cortar gargantas, degollar, ser usadas por Milei, asesino de Vallecas, crimen de las Palmas de 2020, el celador de Olot …»
La herramienta me parece que bien usada podría ser interesante, por ejemplo que la propia google hiciera reconstrucciones históricas, o ver como quedaría una perspectiva sin determinados edificios, etc…
Algunas obras, como simular un Paris con la torre destruida, o meter un bombazo a la Casa Blanca se han visto miles de veces en el cine, y nadie se ha tirado de los pelos, como cuando invadían los marcianos. Al final lo que estamos penalizando aqui es la facilidad de generar imágenes hiperrealistas con una sencilla frase, porque si obtener esa imagen fuera el resultado de un trabajo de varias horas o días ¿sería arte?
Prohibir la herramienta equivale a un paternalismo mal entendido, ¿estamos legitimando estar a estar monitorizados por una Big Tech?
No sé si google habrá cambiado su políticas, pero no hace mucho, le pedías restaurar una foto o colorizarla, y si había personas no te debaja la slavaguarda….
Una de control para brainless, y seguro que alguien aplaude…
Estoy de acuerdo con tu opinión.
una torre Eiffel derruída, un enorme socavón tragándose la pirámide de Giza, y tanques rusos paseando por Kiev, un hospital bombardeado en Gaza, instalaciones nucleares en Irán o campamentos de refugiados en la frontera entre México y Estados Unidos. son imágenes que con la IA y los medios que ya había podían obtenerse con solo escribir los «prompt» adecuados. No veo la razón de tanto escándalo.
«No veo la razón de tanto escándalo»
Supongo que cuando a uno no le pueden quitar la pensión ni mandarlo al frente cuando en breve se repita el siglo XX pero a lo bestia, todo se ve de manera más optimista…
Un elegante ataque ad hominem.
Sin embargo, echo de menos un argumento em contra a lo expuesto.Esas imágenes ya se podan crear sn gran complejidad, y dudo que puedan ser la causa de que inicie la tercera guerra mundial
Amigo Gorki, eso no es controlable. Nadie podía esperar que un anarquista con una bomba que mata a un archiduque provocase la Primera Guerra Mundial, pero así fue. De repente, un simpático crea una visualización en Google Earth de la invasión fronteriza con sus trincheras y todo de un país a su vecino que lo odia, y eso viraliza y se te lía la de dios es cristo en día y medio. Esos procesos son incontrolables y explosivos, y es mejor dar las menos armas posibles a quienes los pueden provocar, que en ocasiones ni lo pretendían. Mejor jugar poco con eso, porque lo carga el diablo…
Creo que exageras un poco, Pero independientemente de ello, lo que digo, es que esas imágenes que indicas como peligrosas, ya se podían crear sin excesiva dificultad con los medios existentes antes del invento de Google
Enrique
Te compro el órdago, siempre que antes pasen por el tribunal Putin, Netanyahu, Trump y sus mariachis….
Deducir que por poner el Nano Banana ( que me imagino que viene con marca de agua como todas las imágenes de Gemini, es fumarse un puro y beberse un copazo después de comer, pero como tu comentario es de las 11:42, o te has vuelto ultra europeo (por la hora de la sobremesa) o no entiendo tu comentario…
Me suena al «nos comen los chinos» de otro celebérrimo… compañeiro
PS: Para una vez que coincido con Gorki, no le voy a dejar solo ante los zurdos… viva la libertad carajo (es coña…)
Perdona por la parte ad hominem.
Es difícil argumentar algo tan sutil pero, para mí, evidente en extremo. Y por cierto, la 3a guerra mundial empezó ya hace unos cuantos años, lo único es que los historiadores acostumbran a poner el comienzo cuando los países las declaran abiertamente. Esto ya no se hace, porque tendrías que pasar por el parlamento y no te dan los votos. ¿Alguien ha pasado por el parlamento para que nos metamos en la guerra de Ucrania? Porque, dentro, estamos.
Como si pasar por el parlamento fuera la solucion.
Mira como van los chinos sin pasar por el parlamento, y como van loa yanquis con Trump por pasar por el parlamento.
El problema que tenemos en occidente es que el eficientísimo «autoritarismo» chino no es replicable aqui.
Alli mandan los que han deostrado una gestion impecable en cada puesto al que han ido ascendiendo.
Aqui mandaria Abascal, la antítesis de la meritocracia.
Exagerando tu argumento de «Prohibir la herramienta equivale a un paternalismo mal entendido»
permitamos el enriquecimiento de uranio en tu garaje…
PD: sí, yo también le veo buenos usos, pero tambén me imagino la última guerra (este año) y, si ya todo lo que escuchamos en el periódico es mentira (es decir, es justo lo opuesto a lo que está ocurriendo), imagínate si empiezas a fabricar falsos genocidios, etc. Ahora mismo todo nuestro PIB estaría en armas (¿¡más?! sí, mucho más)
Estoy en contra de la energia nuclear hasta para uso civil, salvo para uso en medicina. Por ahí, no.
La solución: Marca de agua… que dificil…
¿Un manicomio dentro de un cortijo o viceversa?
Ha sido un viaje largo y corrompido desde las cavernas hasta alcanzar las mas altas cimas de la indignidad humana.
Como Observador Galactico no se si la humanidad es mas tonta, indigna, psicopata o loca.
PD: Quedan dos telediarios de los vuestros. El Niño viene muy, muy fuerte.
¿De verdad alguien se trago lo del libre mercado que viene de la primera ciudad estado?
¿En serio despues de ver a lo largo de toda la historia sus consecuencias en hambres, guerras y abuso de los tiranos?
¿Que sorpresa hay aqui y ahora?
¿Que los amos hacen genocidios y ecocidios planetarios sin rubor ni oposicion?
¿Donde demonios esta la sorpresa o el chiste?
«empresas con recursos prácticamente ilimitados»
A ver…yo había entendido que esto era el summum bonum, lo que nos había sacado de la miseria…etc. ¿Ya no es así?
«Se trata de exigir que quienes poseen un gran poder, lo ejerzan con un mínimo de responsabilidad»
Jeje, es justo al revés. En todas las épocas, un puñado de personas ha mandado a miles a morir para vivir al máximo de lo que las posibilidades tecnológicas de la época les permitía, violando, quemando vivos, matando a niños…Antes se llamaban reyes, ahora son estos señores. Los demás somos las víctimas eternas. Cuanto antes os deis cuenta de vuestro(nuestro) rol, menos confusiones.
PD: Por cierto Enrique, con estas cosas que escribes, ¿aún te dejan entrar en EEUU?
Me encanta la posdata….
Yo hace tiempo que también me lo pregunto…
Al Sr. Dans le vendría bien cambiar el iPhone por uno con GrapheneOS XD
https://techcrunch.com/2026/07/24/us-accuses-american-of-allegedly-wiping-his-phone-using-a-duress-password-during-border-search/
Cuando Stalin borraba a sus enemigos ideológicos de las fotos oficiales (y aún no había photoshop), se tenía el mismo problema que ahora : falta de educación, exceso de domesticación. En otras palabras, mucha mucha fe!!!
No va la cosa de tecnología, ella es esencialmente neutra, va de manipulación mental… esos filtros mentales propios, que tan chistosos le suenan a algunos… y que, por cierto, se construyen en la adolescencia (su base), ya casi nada se puede hacer en la adultez… por razones genético sociales.
Y a la falta de educación se le suma la inercia mental, tan querido el «dejarse ir», el gusto por permanecer como versión mediocre de homo sapiens… porque, parece que no, pero da un gustirrilín…
El otro día tuve una charla muy instructiva sobre Marx, Lenin y el capitalismo chino… con Gemini, algún día haré el resumen cuando el troll de los cojones, no nos toque la gaita… y nos desvíe la conversación… parece mentira que una IA sea más hábil que el tonto de los cojones antimarx (el que ahora videos de YT hablando de IA, sin tener NPI)
Como es evidente que hablas de mi, otra vez insultando cobardemente, y otra vez usando el plural para esconderte cobardemente, ¿podrías señalar dónde he desviado alguna conversación? O es otra vez Buzzword troleando buscando bronca e insultando porque se ha visto superado una y otra vez y no sabe hacer otra cosa?
Yo sigo esperándote en hilos de los que sales corriendo si no te pones a insultar porque los argumentos te superan:
https://www.enriquedans.com/2026/07/la-maquina-que-europa-convirtio-en-una-cuenta-atras.html#comment-534139
Pero sospecho que va a ser que sí, que estás intentando provocarme para buscar bronca, Buzzword. Una vez más, insultando y actuando como un troll, vaya
Bicho, quie te ha llamado, a mamarla por ahí !!!
XD
Menudo nivelazo de comentario. Son de los que sin duda elevan el nivel de este blog.
Yomismo no tiene nada que hacer frente a semejante despliegue diario de educación, sabiduría, clarividencia en la argumentación y elegancia en la prosa.
El núcleo del análisis de Enrique, que así lo entiendo yo, no es el tipo de uso que se le hace a una herramienta, incluída dentro de una tecnología de propósito general, aceptada como una infraestructura de confianza. No se trata una vez más de una cuestión de paternalismo, sino de algo que va más alla: la intención de quien controla la tecnología.
Ese es el verdadero problema y los ejemplos son cotidianos. Una herramienta que para un usuario puede tener un fin, no sólo no puede ser compartido por quien la controla, sino que es instrumento de otros fines.
En el fondo es un profundo problema de ética. Una ética que escasea en el mundo, y mucho más cuando nos acercamos a los grandes centros de decisión. Es ilustrativo además, el ejemplo de BBC Verify. ¿Cual ha sido la «línea de menor resistencia»? Generar de inmediato imágenes perversas. Ese «output» ya estaba previsto.
Y esa falta de ética lo que viene a defender es: la realidad objetiva no importa, lo importante es que puede ser modificada virtualmente.
El centro del debate es quién controla la tecnología y para qué. La herramienta no es lo importante. Hoy es Google Earth. Mañana será cualquier otra.
Frente a esto sólo hay tres remedios: pedagogía, pedagogía y pedagogía. La pedagogía abre la puerta a la eclosión final del opensource, al imperio de las redes colaborativas y a la soberaría del usuario final. La soberanía verdadera es esa. No es la de los estados. No es la de las instituciones supranacionales. En analogía, los monopolios tecnológicos tiránicos actúan con la potencia de reloj de un núcleo simple. La Comunidad soberana y abierta que se espera, trabajará en multitarea. La clave no es la potencia bruta, sino la sincronización de capacidades.
Los obstáculos son evidentes. Sin embargo, el colapso financiero que aguarda a la vuelta de la esquina supone una nueva oportunidad. La máquina se ha colgado: El Reset está servido.
La necesidad es la madre de la ciencia.
En parte os doy la razón… os cuento una deepfake chapu que solté e FB hace 2 años:
Os cuento, hice una imagen del ayuntamiento de mi pueblo vandalizado con pintadas y quemado, y aunque fuera SD 1.5 quedó muy «de verdad». Hice un texto del estilo, así está de descuidado el pueblo desde que el PP tomó la alcadía, todo sucio, lleno de pintadas…. etc…. y después puse, algo así:
«vecinos, no os creais que todo lo que veis es real. Hoy en día con la IA cualquier cosa es posible, y os pueden engañar para lo bueno y para lo malo»
El primer comentario, fue de una señora, que por su perfil, debía tener 70 años o más, que dijo: eso no es cierto, he pasado esta mañana por el ayuntamiento y está perfectamente….
Por eso digo, que en parte os doy la razón, que hay gente que el 2 + 2 son 4 pues como que no…
Entonces que vale más
* Tener libertad de hacer deepfakes con marca de agua
* Tener salvaguardas para los brainless
En estas estoy con la libertad, y que los brainless maduren…
Creo que no hay nadie en este blog que se pregunte por qué Buzzword escogió publicar su deepfake… en contra del PP.
El problema de eso que llamas «brainless» no es de individuos que saben o no saben, es de resultados estadísticos de efectividad. No TODO el mundo puede tener TODAS las herramientas para detectar TODOS los engaños, sesgos, errores… El objetivo del marketing es buscar los huecos donde puede meterse y con los medios tecnológicos actuales va sobradísimo. Siempre habrá un porcentaje, por pequeño que sea, que influir con la burrada más grande y siempre habrá margen para ampliarlo sea adaptando o suavizando la burrada o sea con tiempo y construccionismo social.
Buena parte del problema está fuera de lo técnico y entra en lo psicosocial, un aspecto sistemáticamente ignorado por el sector tecnológico. La racionalidad humana tiene un límite y está lastrada por sesgos sociales (sesgos que son funciones necesarias de nuestra especie) innatos e inevitables. Recuerden las luchas de Spock en Star Trek o las vías y motivos transhumanistas del Apple Seed de Masamune Shirow, el problema no es nuevo y el foco no debería estar en lo técnico sino en el humano. Suponiendo que un simio salvaje pudiera manejar con eficacia un arma de fuego, se la daríamos? Y a algún depredador que pueda interesarse en cazar humanos? La educación y una cultura de cooperación y cuidado en una hipotética y futura sociedad sólida puede alcanzarse desde el escenario actual que trae la Ilustración Oscura? Podrá existir una élite sabia como planteaba Platón? Será humana?
En este momento hay mucho poder en manos con muy poca responsabilidad y personalmente opino que ningún ser humano es capaz de gestionarlo ni colectiva ni muchísimo menos individualmente. El simio sabe usar y tiene un arma pero es que además va pasado de farlopa.
Ah, que «no es un arma, que es una herramienta para X». Desde que conocí el concepto de guerra híbrida, paralelamente y considerando otros temas, llegué a la conclusión de que en nuestra sociedad actual la economía es la guerra por otros medios.