Enrique Dans

Un experimento llevado a cabo por Vincent Schmalbach, posteriormente verificado independientemente por The Register, le permite comprobar que la revista Time está actualmente sirviendo páginas distintas a usuarios humanos y a modelos de inteligencia artificial, filtradas mediante el user agent, y que además, las páginas servidas a los modelos están llenas de publicidad.

En efecto, dos peticiones idénticas efectuadas al mismo tiempo generan páginas completamente diferentes, adaptan completamente su contenido según quién o qué las solicite, y si es un «qué» y no un «quién», lo sirven en formato markdown específico para máquinas y lo llenan de publicidad, con bloques publicitarios en formato FAQ, con los llamados brand facts, con enlaces de campañas específicas y con afirmaciones comerciales. Esos materiales, además, no están en absoluto pensados para ofrecer a un usuario, sino que toman la forma de pequeños fragmentos citables y autosuficientes, pensados para ser utilizados como materia prima para construir una respuesta.

¿Cuál es el objetivo de servir anuncios que los humanos no pueden ver? La respuesta es evidente por sí misma: manipular las respuestas que dan los chatbots a los usuarios humanos. Las cabeceras observadas vienen con un identificador de impresión distinto en cada petición, y con una medición del número de tokens. La revista está vendiendo una unidad por página markdown, y reporta el tráfico de bots hacia ella. Así, una impresión publicitaria deja de corresponderse con un usuario humano, y pasa a ser de una máquina que ha ingerido una cantidad determinada de texto. ¿Qué anticipa algo así? Claramente, un mercado publicitario basado ya en el acceso computacional, no en la atención humana. Supuesta autoridad editorial, alquilada a las marcas, para influenciar a máquinas.

Ahora, influenciar al intermediario en el que los usuarios confían puede ser mucho más valioso que influenciar al propio usuario. Mientras las campañas tradicionales tratan de cambiar las percepciones de cada espectador impactado por ellas, las dirigidas a los agentes intentan influenciar las respuestas que esos agente ofrecen potencialmente a millones de personas.

Obviamente, con ello no se consigue «reentrenar» de manera permanente al modelo base ni modificar todas sus respuestas, algo solo al alcance de la compañía propietaria del modelo, pero sí se puede influir en el índice, en la recuperación y en las respuestas basadas en búsquedas a través de un contexto particularmente persistente. La realidad es que es una forma de manipular las búsquedas que hace el chatbot para contestar tus preguntas.

Aún teniendo en cuenta ese matiz, el mecanismo puede llegar a tener una gran influencia, porque mientras un motor de búsqueda ofrece al usuario un listado de respuestas y le permite elegir una (aunque condicionado por su orden), en el caso de un chatbot, el usuario sólo recibe una frase formulada con un gran nivel de autoridad que puede afirmar algo sobre una marca, lo que permite generar una influencia potencialmente desproporcionada.

¿Fraudulento? Obviamente, manipulador, pero es que la intención de la publicidad siempre ha sido esa, manipular. No todo lo que hacemos adaptando nuestro contenido para las máquinas es necesariamente un fraude: por ejemplo, tratar de ofrecer un contenido limpio, accesible, estructurado y verificable es algo perfectamente lícito. Pero de ahí a introducir todo tipo de información promocional (nada miente más que la publicidad) escondiéndola al lector humano con el fin de modificar las recomendaciones que se le ofrecen es algo que no genera mucha confianza, y que raya en el llamado retrieval poisoning, el desvío de los sistemas RAG mediante documentos destinados a ser recuperados y procesados de formas que el usuario no llega a percibir ni a conocer. Por mucho que el contenido esté etiquetado como patrocinado, esto es un ataque sobre una superficie vulnerable muy clara: la confianza del modelo en el material que recupera en sus búsquedas.

Surge con ello una paradoja muy evidente: ¿para qué etiquetar el contenido como patrocinado, si el usuario nunca va a llegar a ver esa etiqueta? Aquí, aparentemente, nadie incumple nada: Time etiqueta el contenido como patrocinado, el chatbot afirma que tan solo hizo una búsqueda, y el anunciante dice que compró un formato aceptado al editor… pero el resultado es que el usuario recibe una recomendación sin que pueda saber que tiene un origen pagado. Entre todos lo mataron y él solito se murió. La norma aquí debería ser muy clara: ningún chatbot debería nunca presentar una recomendación pagada como contenido orgánico genuino, algo sobre lo que habrá que generar la adecuada regulación.

Una excepción en la manipuladora jugada de Time es Google: Googlebot sigue recibiendo la versión humana de la página, en lugar de la destinada a máquinas. ¿Por qué? Muy sencillo: porque Google penaliza de manera muy directa y considera como cloaking la inclusión de contenidos en las páginas específicamente destinados al motor de búsqueda, algo a lo que Time no podía arriesgarse.

El incentivo para los medios es claro: monetizar un tráfico que consume recursos, pero que no producía nada. Ahora, pueden cobrar a las marcas por ese tráfico, mientras esas marcas pueden pretender que, efectivamente, alcanzan a los usuarios a través de sus chatbots favoritos. Los perjudicados, los de siempre: unos usuarios que van a pasar a no tener ni idea de si lo que su chatbot les responde es o no es un contenido comercial, y una web cada vez más dividida entre humanos y máquinas. En torno al 15% de las marcas ya generan sus propias páginas markdown (hasta yo mismo lo hago), pero una cosa es eso y otra tratar de manipular la inteligencia artificial para poder engañar a sus usuarios pasando publicidad por mensajes supuestamente objetivos. Y no olvidemos que la revista Time es sólo la que ha «descubierto el truco»… ahora vendrán muchas más.

Ahí tenemos tanto la novedad como el riesgo: no tanto que una máquina pueda ver publicidad, sino que la publicidad reaparezca transformada en una respuesta supuestamente neutral. La auténtica manipulación de la inteligencia artificial en favor de quien puede pagarlo. Una auténtica basura.

This article is also available in English on my Medium page, «Should we be surprised publishers are learning how to influence chatbot answers?»