Enrique Dans

El reciente episodio del vídeo generado con inteligencia artificial que afirmaba, falsamente, que se había producido un golpe de Estado en Francia no es una simple anécdota ni un error aislado. Es, más bien, un síntoma evidente de una enfermedad mucho más profunda: la absoluta incapacidad, o peor aún, la absoluta falta de voluntad, de las grandes plataformas sociales para asumir la responsabilidad que les corresponde en la protección de las democracias en las que operan.

Que un contenido de ese calibre pudiera circular durante días, acumular millones de visualizaciones y provocar incluso alertas diplomáticas antes de ser retirado no es un fallo técnico. Es negligencia estructural. Es priorizar los ingresos por encima de cualquier otra cosa, por importante o sagrada que pueda ser.

La reacción de Emmanuel Macron ha puesto voz a una preocupación que se extiende mucho más allá de Francia. Macron explicó que su equipo reportó el vídeo a través de Pharos, el portal oficial francés de señalamiento de contenidos ilícitos para que Meta lo retirara, pero la plataforma consideró que «no contravenía sus normas de uso», lo que obligó a una intervención directa posterior para su eliminación. El vídeo, que se publicó el 9 de diciembre y mostraba a una supuesta periodista informando de un golpe respaldado por un coronel, alcanzó decenas de millones de visualizaciones antes de desaparecer de la vista pública. Meta, simplemente, estaba haciendo caja con él.

Conviene dejar algo claro: Macron no ha pedido formalmente el cierre de Facebook o Instagram en Francia, pero el tono de sus declaraciones marca un punto de inflexión. Ya no estamos ante una discusión abstracta sobre moderación de contenidos, sino ante un evidente problema de seguridad democrática. Cuando una plataforma permite que una falsedad de ese calibre se propague sin control y se niega a eliminarlo cuando se le solicita con argumentos claros, no estamos hablando de libertad de expresión, sino de desinformación masiva con potencial desestabilizador. Y eso, en cualquier Estado de derecho, tiene consecuencias.

Este caso no es un evento aislado, sino un reflejo de una tendencia que se repite en múltiples contextos: plataformas como las de Meta (Facebook, Instagram), TikTok o X han demostrado reiteradamente su absoluta incapacidad y su falta de voluntad para gestionar de forma fiable la difusión de contenidos peligrosos o manipuladores, y con la popularización de la inteligencia artificial generativa, el asunto se ha hecho mucho más peligroso. La Comisión Europea ha encontrado recientemente a Meta y TikTok en presunto incumplimiento de sus obligaciones de transparencia bajo la Ley de Servicios Digitales (DSA) por restringir indebidamente el acceso de investigadores a datos fundamentales para evaluar la moderación de contenidos y por no proporcionar a los usuarios mecanismos eficaces para denunciar contenidos ilegales: no sólo dejan pasar cualquier contenido por tóxico que pueda ser, sino que además dificultan que se investigue y se comprenda por qué ocurre.

Bajo el mismo reglamento, X ha sido sancionada directamente por la Unión Europea con una multa de 120 millones de euros por falta de transparencia en publicidad y diseño engañoso, en un caso que revela la persistente y alarmante falta de rendición de cuentas de estas plataformas.

Meta alegó que incluso el propio marco regulatorio europeo, como el Reglamento de Transparencia y Publicidad Política, le obligó a dejar de vender publicidad política en la Unión Europea, subrayando las tensiones entre sus operaciones globales y los requisitos regulatorios europeos.

Frente a este panorama, una pregunta que hace unos años habría parecido exagerada empieza a sonar inquietantemente sensata: ¿tiene sentido para Europa seguir permitiendo la operación de redes sociales que, de forma probada, patente y reiterada, ponen en peligro sus procesos democráticos? Si una empresa no puede o no quiere cumplir unas reglas básicas de convivencia democrática, ¿por qué debería tener acceso total a cientos de millones de ciudadanos europeos?

La idea de retirar del mercado europeo plataformas como Facebook, Instagram, TikTok o X suele generar reacciones viscerales, con acusaciones de censura, autoritarismo o ataque a la libertad de expresión. Pero conviene analizar la cuestión con algo más de rigor. No se trata de silenciar opiniones ni de limitar el derecho de los ciudadanos a comunicarse, sino de dejar de tolerar productos cuyo diseño favorece activamente la desinformación, la polarización y la manipulación emocional, y que han demostrado ser herramientas eficaces para erosionar elecciones, desacreditar instituciones y contaminar el debate público.

La Unión Europea, a través de la Ley de Servicios Digitales (DSA), ha intentado establecer un marco donde las plataformas asuman obligaciones claras para moderar contenidos ilegales y transparentar sus decisiones, incluyendo la obligación de proveer datos sobre moderación y permitir mecanismos de apelación para los usuarios. Sin embargo, los casos recientes muestran que incluso con estas herramientas legales, la respuesta de las plataformas es insuficiente y muchas veces reactiva, llegando sólo después de que el daño ya está hecho, cuando ya han podido generar el tráfico y los ingresos correspondientes.

Europa ya ha demostrado en otros ámbitos que sabe establecer líneas rojas claras: se han retirado productos del mercado por razones de seguridad alimentaria, sanitaria o medioambiental sin que nadie lo considere un ataque a las libertades fundamentales. ¿Por qué debería ser diferente cuando lo que está en juego es la salud del espacio público, la salud mental de las personas y la estabilidad de los sistemas democráticos? Retirar estas aplicaciones de las tiendas, imponer sanciones verdaderamente disuasorias y obligar a las empresas a cerrar las cuentas de usuarios europeos si persisten en incumplir la ley no es una fantasía distópica, sino una opción regulatoria perfectamente legítima.

Es evidente que una decisión de este calibre tendría costes y efectos colaterales. Muchas personas, medios y organizaciones dependen hoy de estas plataformas para comunicarse, y el vacío no se llenaría de forma inmediata, aunque podría genera oportunidades muy interesantes. Pero también es cierto que Europa podría (y debería) fomentar alternativas más saludables, transparentes y alineadas con sus valores democráticos, en lugar de resignarse a una dependencia crónica de empresas que han demostrado, una y otra vez, una alarmante falta de responsabilidad frente a riesgos concretos para la democracia. Con la llegada de la inteligencia artificial generativa, no sólo crear contenidos debería ser más sencillo: también debería serlo el eliminarlos.

La cuestión de fondo ya no es si prohibir o expulsar a estas plataformas sería una medida extrema o injustificable: la verdadera pregunta es si seguir tolerando su comportamiento no lo es aún más. Cada bulo viral, cada campaña de manipulación y cada ataque a la confianza pública nos acerca a una conclusión incómoda pero cada vez más difícil de ignorar: quizás Europa estaría mejor sin redes sociales tóxicas diseñadas específicamente para amplificar el ruido, la mentira y el conflicto. Defender la democracia puede implicar, llegado el momento, prescindir de quienes hacen negocio debilitándola.

This article is also available in English on Medium, «When social networks undermine democracy, Europe must draw the line»