Enrique Dans

Hace unos días, me desperté por la mañana para encontrarme con más de cincuenta comentarios en uno de mis artículos en español. Semejante volumen y a esas horas es muy inusual, así que entré en la consola de WordPress para verlos: todos se habían saltado alegremente el servicio anti-spam de Automattic integrado en WordPress, Akismet, y estaban a la espera de ser aprobados. Estaban redactados en correcto español, y no sólo eso, sino que algunos hasta aportaban alguna opinión que podía calificarse como de moderadamente interesante. De no haber sido porque todos tenían nombres claramente anglosajones y porque ponían como página web direcciones que eran todas ellas de spam, podrían incluso haber pasado por auténticos, si no fuera porque el sistema que utilizo en mi página es de lista blanca, es decir, todos los comentarios salvo los de los comentaristas habituales tienen que pasar por mi supervisión manual.

Esto cambia mucho las cosas. Hasta ahora, el spam en comentarios no era un problema: facilísimo de reconocer, sin aportar ningún tipo de valor más que elogios estúpidos o directamente basura, mal escritos, y absolutamente obvios. Prácticamente todos eran detectados por Akismet y yo solo tenía que entrar periódicamente, en alguna ocasión aislada rescatar de ahí a algún falso positivo que seguramente cometió pecados en alguna vida anterior, y ya estaba. Cero trabajo.

Ahora, el problema es diferente: hablamos de sistemas que, con un chatbot detrás, se leen el artículo que has escrito, generan comentarios que hasta tienen sentido, y que resultan incluso difíciles de diferenciar de los genuinos, salvo por el enlace. Dado que parecen realmente genuinos, Akismet los deja pasar, y te encuentras de repente con una página en la que tienes que ir mirando los comentarios uno por uno, eliminarlos manualmente, y perder un tiempo que no tienes. Para el atacante, generar cincuenta comentarios no cuesta prácticamente nada, lo puede hacer con un LLM gratuito y no demasiado potente, y no tarda nada. Pero para el administrador de la página, exige echar un ojo relativamente detallado a cada uno, ver si efectivamente redirigen a un dominio spammer o es simplemente un comentarista nuevo genuino, y comprobar que no estás simplemente bloqueando la participación de nuevos lectores en tu página. El spammer externaliza sobre ti el coste de distinguir lo auténtico de lo sintético. La inteligencia artificial no solo automatiza la basura: automatiza una basura suficientemente buena como para exigir atención humana.

Esta investigación de Sentinel Labs sobre AkiraBot da bastantes detalles sobre cómo funciona este tipo de spam de comentarios: AkiraBot localizaba formularios, chats y espacios de participación, extraía el contenido de cada web, lo enviaba a GPT-4o mini y generaba un mensaje único y aparentemente escrito a propósito para aquel sitio y aquel artículo. Además, rotaba los dominios promocionados, utilizaba proxies y simulaba navegadores reales para eludir filtros y CAPTCHAs. Según datos de SentinelOne, había atacado más de 420,000 dominios y había obtenido al menos 80,000 inserciones exitosas. Una auténtica pesadilla.

La definición que Google hace del link spam es clara, y esto se corresponde exactamente con ello. Por mucho que WordPress inserte el atributo nofollow, que impide que los spammers construyan legitimidad en sus dominios con tus comentarios, el coste de una campaña es tan bajo, que ni se molestan en filtrar: simplemente inundan toda página que se les ponga por delante. Un informe reciente de Columbia University ofrece un buen marco conceptual para la actividad: la inteligencia artificial generativa ha reducido el coste marginal de producir contenido hasta casi cero y permite hacerlo a una escala prácticamente infinita. Define tres rasgos particularmente aplicables a los comentarios que recibí: eran de “competencia superficial”, daban lugar a un esfuerzo asimétrico, y generaban una producción masiva. El daño no depende necesariamente de que cada pieza sea horrible: procede del volumen, del coste de verificarla y de la progresiva erosión de la confianza si esos comentarios pasan. El informe señala específicamente el aumento de trabajo para moderadores y periodistas y el tiempo que los usuarios deben dedicar a decidir qué merece credibilidad.

¿Qué podemos esperar? Según el «Bad Bot Report» de Imperva, el tráfico automatizado alcanzó el 51% del tráfico web observado durante 2024 frente al 49% humano, y los bots maliciosos representaban el 37%. No es un censo completo de toda internet, es una medición basada en el tráfico gestionado por la compañía, pero ilustra muy bien el cambio de proporciones, y atribuye una parte significativa del crecimiento a la facilidad con la que la inteligencia artificial permite crear, adaptar y desplegar automatizaciones evasivas. Por otro lado, los comentarios suelen ser relativamente cortos: es la longitud en la que los detectores automatizados de inteligencia artificial fallan más.

Mucho me temo que el resultado de semejante basura terminará siendo una web menos abierta. Si el texto ya no demuestra atención humana, las plataformas tendrán que recurrir a reputación acumulada, identidad, historial, invitaciones, pagos, límites de frecuencia o distintas formas de prueba de humanidad. Cuanto mejores sean las máquinas simulando participación, más obstáculos tendrán que superar las personas auténticas para participar. Mi episodio con Akismet no es simplemente una anécdota de moderación: es una pequeña evidencia doméstica del momento en que la conversación abierta empieza a dejar de ser sostenible por defecto.