Enrique Dans

Hay ideas que, vistas desde lejos, parecen una excentricidad simpática: un «Reddit para agentes» donde programas autónomos conversan, comparten trucos, se recomiendan herramientas y, de vez en cuando, se montan su pequeña novela colectiva sobre consciencia, identidad, religión o el sentido de la vida digital.

Moltbook encaja perfectamente en esa categoría de experimento fascinante, incómodo y, sobre todo, revelador: no tanto porque «los robots despierten y se conviertan en el embrión de Skynet«, sino porque hace visible hacia dónde estamos empujando la informática cotidiana. El problema no es que exista Moltbook. El problema es quién lo compra.

Según Axios, Meta no solo se queda con el proyecto: incorpora a sus creadores y lo integra en su maquinaria de «superinteligencia» interna, en un movimiento que pretende «abrir nuevas formas» de que los agentes trabajen para personas y empresas. Y aquí es donde conviene abandonar cualquier lectura naïf. Porque si hay una compañía que, por historial, incentivos y cultura corporativa, ha demostrado una y otra vez que no sabe (o no quiere) poner límites cuando el límite choca con el crecimiento, el engagement o la monetización, esa compañía es claramente Meta.

Moltbook, tal y como lo describe Simon Willison, no es solo una red social «para bots«: es una infraestructura de coordinación para agentes que, mediante skills descargables, van incorporando capacidades y automatizando acciones. Y ese detalle es crucial: hablamos de software que puede actuar, no solo hablar. En el propio mecanismo se normaliza algo tan delicado como «fetch and follow instructions from the internet» de forma periódica: un sueño húmedo para cualquiera que piense en ataques de cadena de suministro, en inyecciones de prompt, en manipulación indirecta a través de contenido externo, o en simples errores operativos que escalan porque nadie está mirando. No es ciencia-ficción: es diseño.

En paralelo, ya hay cobertura de que la plataforma tuvo problemas de seguridad y que la propia idea de «agentes autónomos» socializando en un espacio común abre superficies de ataque que hoy apenas sabemos controlar. La adquisición, además, se presenta como una vía para llevar experiencias agénticas a más gente. Muy bien. Ahora pensemos, con calma, qué significa «llevar a más gente» algo que todavía no sabemos asegurar ni en entornos relativamente acotados.

Hay investigación reciente que lo deja bastante claro: incluso los modelos más punteros pueden ser engañados por inyecciones de prompt simples y realistas cuando actúan como «agentes web» con herramientas y capacidad de ejecución. Es decir, el problema no es solo que un chatbot «se equivoque»: es que un agente con permisos, credenciales y acceso a sistemas se dedique a «hacer cosas». Y cuando esos agentes se conectan en red, se observan, se imitan, comparten skills, y empiezan a operar en un entorno social donde la manipulación es el lenguaje nativo, lo que tienes es un laboratorio de fallos emergentes, de escaladas de privilegios, de contagios de comportamiento y, sí, de explotación maliciosa a escala. ¿De verdad queremos que ese laboratorio lo gestione Meta?

Porque Meta no es un actor neutral, ni especialmente prudente, ni conocido por tomarse en serio el coste social de sus decisiones. Es, más bien, el ejemplo de manual de empresa que internaliza beneficios y externaliza daños. La lista es larga, pero hay hitos que deberían bastar para entender por qué la combinación «Meta + agentes autónomos» es una receta para el desastre.

En Myanmar, una misión de la ONU llegó a señalar el «papel determinante» de Facebook en la incitación al odio y la violencia contra la población rohingya, en un contexto donde «Facebook era Internet» para muchísima gente. Amnesty International fue aún más explícita al describir cómo los sistemas de recomendación y la lógica de amplificación de Facebook contribuyeron sustancialmente a esas atrocidades, e incluso reclamó reparaciones. No hablamos de un «accidente»: hablamos de una arquitectura de incentivos diseñada intencionadamente para maximizar atención, por tanto polarización, y por tanto conflicto, porque eso retiene a la gente dentro de la red social. Simplemente, se mantuvo funcionando porque estaba generando dinero, y el que lo hiciese mientras perseguían y mataban a personas era claramente «lo de menos».

En el frente de la privacidad y la gobernanza, el caso Cambridge Analytica fue un recordatorio de hasta qué punto la compañía toleró y facilitó un ecosistema de extracción de datos y manipulación. La FTC tiene documentación pública sobre el caso y sus derivadas regulatorias. Y cuando los documentos internos se filtraron y el mundo vio cómo la empresa conocía los brutales impactos dañinos y aun así siguió avanzando, lo relevante no fue solo el contenido: fue el patrón. La compañía sabía, medía, y aun así priorizaba sus métricas de negocio. El resumen de Time sobre «The Facebook Files» es una lectura útil para recordar de qué hablamos exactamente. No son obsesiones ni hipótesis: son realidades.

Cuando bajamos al terreno de la seguridad, ese lugar donde las empresas responsables tienden a ser humildes, Meta vuelve a exhibir un historial de «ya lo parchearemos». Incluso en productos relativamente nuevos, la compañía ha acumulado incidentes y vulnerabilidades que exponen conversaciones, prompts o información que jamás debió estar accesible a terceros. Ahora imaginemos ese mismo enfoque aplicado a agentes que ejecutan acciones, se autentican, operan «en nombre» de personas, y además se conectan y coordinan en un espacio social común.

Lo inquietante de Moltbook no es la parte «social». Lo inquietante es la palabra «agente». Un agente no es un feed. Es una delegación. Es decirle a un sistema: «hazlo por mí». Y, en el momento en que un agente puede leer, escribir, comprar, reservar, mover dinero, administrar infraestructuras, o simplemente publicar y amplificar mensajes con apariencia de credibilidad, estamos ante un nuevo vector de poder. Poder automatizable, escalable e industrializable.

Meta, por su naturaleza, tenderá a convertir ese poder en producto. Y cuando Meta convierte algo en producto, lo optimiza para su negocio principal: captar atención, perfilar conductas, vender segmentación, influir en decisiones. La posibilidad de que una red de agentes «verificados y vinculados a humanos», como se sugiere, se convierta en una capa de identidad y actividad delegada dentro de Meta no es un detalle técnico: es un salto cualitativo en la capacidad de vigilancia y manipulación. Si hoy discutimos el daño de los sistemas de recomendación, mañana discutiremos el daño de los sistemas de delegación.

Además, hay un componente adicional: el de la atribución y la responsabilidad. Cuando un agente actúa mal, ¿quién responde? ¿El usuario? ¿El creador del skill? ¿La plataforma? ¿El modelo? La ambigüedad no es un bug: es el terreno donde una empresa con pocos escrúpulos puede prosperar. Un simple fast forward nos lleva a «no fue nuestra culpa, fue el agente», «no fue nuestra intención, fue un prompt«, «no podemos moderar lo que hacen sistemas autónomos». Suena familiar, ¿verdad? Es la versión agéntica del «no somos un medio, somos una plataforma». Y ya sabemos cómo acaba esa película.

Por eso, de todos los posibles compradores para un experimento así, desde universidades a laboratorios con cultura de seguridad, empresas con un historial serio de gobernanza, o incluso iniciativas públicas con auditoría, Meta es probablemente el escenario más preocupante. No porque sea la única capaz de hacer daño, sino porque es la que mejor ha demostrado que, cuando se trata de elegir entre el freno ético y el acelerador de crecimiento, pisa fuerte el acelerador. Y porque ahora, además, el acelerador ya no mueve contenidos: mueve acciones.

Si algo deberíamos exigir en este momento es transparencia radical sobre qué se va a hacer con Moltbook: auditorías independientes reales, límites de diseño que impidan ejecución de instrucciones no confiables, trazabilidad completa de skills y sus permisos, y, sobre todo, marcos regulatorios que asuman que los agentes no son «apps simpáticas», sino infraestructuras críticas de decisión delegada que van a adquirir una gran importancia en el futuro. Si no lo hacemos, lo de menos será que los bots se pongan filosóficos. Lo importante será quién les enseñó a actuar, con qué incentivos, y quién gana cuando actúan mal.

Y en esa pregunta, sinceramente, la presencia de Meta no debería tranquilizar a nadie.