Enrique Dans

Mi columna en Invertia de esta semana se titula «Horizonte 2026: la brecha entre las promesas de la inteligencia artificial y la realidad» (pdf), y habla de las promesas rotas de la inteligencia artificial y de cómo una serie de empresas, mayoritariamente las mismas que destrozaron la propuesta de valor de las redes sociales, están ahora haciendo lo mismo con la inteligencia artificial: pretendiendo convertirla en una máquina de espionaje masiva.

Llevamos meses escuchando la misma cantinela: que la inteligencia artificial se va a convertir en nuestro copiloto, nuestro asistente, nuestro secretario, nuestro agente. Que nos liberará de tareas tediosas, que anticipará necesidades, que hará el mundo más eficiente. Y, sin embargo, cuanto más se despliega, más evidente resulta una realidad mucho menos romántica: la inteligencia artificial falla con una facilidad exasperante en tareas básicas… pero funciona de maravilla cuando se trata de capturar contexto personal, perfilar conductas y convertir vida privada en materia prima. Esa aparente contradicción no es un error: es un modelo de negocio. Y a la vez, un problema.

La brecha entre promesa y realidad no se ve mejor en ninguna parte que en el llamado «hogar inteligente». Los nuevos asistentes conversacionales son más parlanchines, sí, pero también más impredecibles, más inconsistentes y, en muchos casos, directamente peores que sus predecesores a la hora de ejecutar órdenes simples. La ironía es casi perfecta: hemos cambiado sistemas deterministas por modelos probabilísticos… para encender luces y hacer café. Cuando un dispositivo falla, se nos dice que «la IA está aprendiendo». Lo que en realidad ocurre es que se está normalizando la chapuza como fase permanente del producto, porque lo que menos importa es el usuario, y lo que más, espiar todo lo quehace para poderlo revender al mejor postor.

Pero mientras el usuario se acostumbra a que lo supuestamente «inteligente» sea también «caprichoso», la industria está consiguiendo algo muchísimo más importante: acceso. Acceso a conversaciones, documentos, correos, hábitos, rutinas, preferencias y, sobre todo, contexto. Un asistente mínimamente útil necesita saber cosas, uno «revolucionario» necesita saberlo todo. Y en ese «todo» está el verdadero negocio: no la utilidad, sino la extracción. No la ayuda, sino el perfilado.

La fase actual del capitalismo digital ya no se conforma con registrar clics o historiales de compra. Ahora quiere inferir quién eres: tus inclinaciones, tus vulnerabilidades, tu estado emocional, tus sesgos, tus patrones de decisión. Y los modelos modernos son sorprendentemente buenos en eso. Hay investigación reciente que muestra cómo sistemas basados en lenguaje pueden inferir disposiciones psicológicas a partir de texto generado por usuarios, abriendo la puerta a una psicometría barata y escalable que, en manos equivocadas, es una pesadilla de manual.

Y aquí entra el sempiterno elefante en la habitación: los «agentes» y los navegadores con inteligencia artificial. Se nos venden como una forma de automatizar tareas en la web, rellenar formularios, gestionar cuentas o «hacer cosas por ti». Pero el precio real de esa comodidad es que el navegador, la herramienta que atraviesa bancos, sanidad, impuestos, trabajo y vida personal, se convierte en una tubería de datos hacia servicios en la nube. No es una hipótesis: investigadores han advertido de que muchos asistentes de navegador recopilan y comparten datos altamente sensibles (incluidos registros médicos o identificadores), sin ningún tipo de salvaguardas.

Si a eso le añadimos el factor «autonomía» (que el agente actúe por su cuenta), el riesgo se dispara. Gartner ha alertado explícitamente sobre los peligros de los llamados «agentic browsers» por su potencial para exfiltrar credenciales y datos financieros, y por la facilidad con la que pueden ser manipulados por sitios maliciosos para enviar información sensible a servicios de inteligencia artificial externos. Dicho de forma simple: el futuro prometido de «déjalo en manos del agente» puede convertirse en «el agente acaba de regalar tus datos al primer postor».

A estas alturas conviene decirlo sin rodeos: la inteligencia artificial, tal y como se está desplegando y mayoritariamente con los mismos protagonistas, es la expansión natural del capitalismo de vigilancia. Shoshana Zuboff lo ha formulado con claridad al señalar que la inteligencia artificial no es una ruptura con ese modelo, sino su continuación y ampliación, su edición corregida y mejorada. Lo que antes era extracción masiva de datos conductuales, ahora es extracción de contexto íntimo, inferencia de atributos sensibles y predicción de comportamiento a una escala obscena.

El problema no es solo que te observen: es que te «modelen». Y, en cuanto te modelan, pueden influirte, porque lo saben todo, todo lo que te hace reaccionar y de qué manera. Ahí es donde el sistema deja de ser «publicidad» y se convierte en ingeniería de comportamiento. La inteligencia artificial no necesita convencerte con un anuncio. Le basta con aprender qué tecla emocional funciona contigo y pulsarla cuando convenga. Ese salto del rastreo a la predicción y de la predicción a la manipulación es lo que hace que este ciclo tecnológico sea más peligroso que los anteriores, incluso aunque sus demos sean mediocres.

Cuando alguien intenta refugiarse en la regulación, la respuesta es igual de incómoda: llegamos tarde. El Comité Europeo de Protección de Datos dedicó una opinión específica a los modelos de inteligencia artificial y a cuestiones como la anonimización y el tratamiento de datos personales en su desarrollo y despliegue. Es un texto relevante y técnicamente duro, precisamente porque deja claro lo resbaladizo que es afirmar que un modelo «no contiene datos personales» o que lo extraído está «anonimizado».

Y mientras la ley intenta ponerse al día, la industria sigue aplicando la doctrina de siempre: desplegar primero, pedir perdón después, y sólo si es estrictamente necesario. Con el agravante de que la inteligencia artificial añade opacidad: es cada vez más difícil saber qué se capturó, qué se infirió y qué se compartió. El usuario queda reducido a «aceptar» términos imposibles de entender, en productos que cambian cada pocas semanas, con arquitecturas híbridas entre local y nube, y con incentivos económicos que apuntan en una sola dirección: más datos, más dependencia, más extracción.

La guinda es que todo esto se está normalizando bajo el discurso del progreso inevitable. Como si no hubiera alternativa. Pero sí la hay. UNESCO adoptó una recomendación global sobre ética de la inteligencia artificial que, entre otras cosas, aborda riesgos asociados a vigilancia y derechos fundamentales. Que exista ese marco no resuelve nada por sí solo, pero sirve para recordarnos una verdad básica: esto no es física, es política. Son decisiones de diseño y de negocio.

Si de verdad miramos hacia 2026, el espejo devuelve una imagen bastante clara: una tecnología que se vende como asistente mientras se comporta como extractor, que promete fiabilidad mientras entrena al usuario para tolerar el fallo, que pide acceso total a cambio de beneficios marginales, y que convierte la privacidad en una moneda de cambio ya definitivamente normalizada. La inteligencia artificial no está «aprendiendo» en el sentido romántico. Está afinando el arte de saber quién eres, qué harás y cómo empujarte hacia donde convenga.

Y si no se cambia el incentivo, si no se corta la dependencia estructural de la extracción de datos como motor del negocio, la inteligencia artificial seguirá avanzando exactamente en esa dirección. No hacia el futuro brillante del asistente perfecto, sino hacia un presente más rentable para unos pocos: el de la vigilancia permanente, automatizada y cada vez más descarnadamente íntima.