Enrique Dans

Es un tema con el que no dejo de alucinar y que no deja de horrorizarme, de hacerme repetir eso de «tenemos lo que nos merecemos»: el agente de inteligencia artificial que más necesita saber, que más información extrae de nosotros, Muse, ha sido creado por la compañía que sin ninguna duda nos ha dado menos razones para confiar en ella, Meta. Y lejos de ser considerado un experimento peligroso o un riesgo, resulta que ha sido un éxito inmediato, hasta el punto de que más de medio millón de imprudentes – o directamente estúpidos – probaron Muse en una semana, con 250,000 usuarios activos diarios y más de dos millones de instrucciones. CNN habla ya de 2,5 millones de descargas según Sensor Tower. Pero de verdad… ¿esa gente en qué diablos está pensando?

¿Qué es Muse? Es un agente, no un chatbot. Es decir, que puede acceder a cosas como correo, calendario, finanzas, reservas, compras, navegación autónoma, llevar a cabo tareas en segundo plano, usar memoria persistente y tener capacidad de actuar de manera autónoma en nombre del usuario. Básicamente, si con Facebook, Meta podía conocer nuestras relaciones y con Instagram, nuestros gustos; con Muse puede conocer nuestro correo, nuestra agenda, los saldos de nuestras cuentas, nuestros documentos, nuestros planes y nuestras intenciones. Es el nivel más íntimo y personal al que jamás ha tenido acceso Meta: directamente pasa de observar lo que hicimos, a intervenir en lo que pensamos hacer. Y hay incautos que le han dado ese acceso, y no uno ni dos: medio millón de ellos. Luego que si por qué nos pasa lo que nos pasa como sociedad. Ya de por sí, me parecería un peligro. Pero siendo Meta quien está detrás, no es que me parezca un peligro, es que me parece directamente una absoluta imprudencia y una locura. O lo dicho, una prueba de idiotez supina.

Si lo instalas, empieza a sugerirte que conectes cuentas bancarias, correo, pasaporte, documentos y alimentación. Cualquier fuente de datos que le permita «conocerte mejor» para actuar en tu nombre. Es literalmente el sueño húmedo de Zuckerberg: una panda de descerebrados que se lo cuenta todo y que dan a su producto privilegios inimaginables. Y todo eso lo guarda en una memoria permanente editable, sí, pero sin ningún interruptor para desactivarla completamente. ¿Nos suena de algo? Como en Hotel California: puedes hacer checkout siempre que quieras, pero nunca te puedes ir.

La propia Meta reconoce que el uso de las interacciones de los usuarios para entrenar modelos está activado por defecto, que los datos de Muse están supuestamente separados de la publicidad directa, pero que sus acciones pueden influir indirectamente en los anuncios que reciba el usuario, y que el desarrollo de una máquina virtual inaccesible incluso para Meta es solo una hipótesis futura anunciada, pero no el nivel de protección actual.

Además de la nula confianza que puede ofrecer Meta como compañía, está la cuestión técnica: hablamos de una empresa tan profundamente imprudente, una compañía que ha acumulado un larguísimo historial de problemas de privacidad y seguridad que han puesto en riesgo la información de sus usuarios. Y en el caso de Muse, ha empezado de hecho con una vulnerabilidad que podía conceder un control extraordinario sobre el equipo del usuario, aunque Meta publicó después un parche de emergencia.

Para hacer la cosa aún más interesante, un actor que no es precisamente pequeñito, Amazon, ha decidido bloquear Muse, es decir, la posibilidad de que un usuario utilice su agente en Muse para hacer compras en la plataforma de comercio electrónico de la compañía. ¿Las razones? Que Meta no pidió autorización, que Muse no se identificaba como agente, y que podía tener acceso a cuentas, pedidos y credenciales. Amazon alega que Muse parecía capturar y almacenar las credenciales del usuario, Meta afirma que permanecen en un almacén seguro y que el modelo no puede verlas. No sé de quién me fío menos.

Lo que Amazon está defendiendo no es únicamente al usuario, sino el control de la relación comercial, las recomendaciones, y su negocio publicitario de más de 68,000 millones de dólares (los agentes pueden saltarse los anuncios y volver irrelevante buena parte de la publicidad tradicional). Por otro lado, Amazon bloquea agentes externos, pero su propio agente, «Buy for me», compra en otras webs. Lo que estamos viendo, en realidad, no es más que el principio de una negociación entre dos gigantes que se compran cosas uno a otro: ambas compañías mantienen importantes acuerdos para ejecutar cargas de inteligencia artificial agéntica sobre procesadores de AWS. Amazon no parece tener problemas con la inteligencia artificial agéntica de Meta cuando le vende infraestructura: los problemas aparecen cuando el agente amenaza su publicidad, sus recomendaciones y su relación directa con el comprador.

En la práctica, Amazon y Meta no disputan nuestra autonomía, sino quién va a intermediarla en el futuro. El problema no es únicamente cuánto puede saber Muse, sino quién recibe ese conocimiento. Meta ya no pretende limitarse a predecir decisiones: ahora quiere participar en ellas y ejecutarlas. Y hay aparentemente un montón de idiotas que no temen en absoluto que una de las compañías más irresponsables, negligentes y malintencionadas de la historia pueda hacer algo así.

In English on Medium, «With Muse, Meta is sticking its nose deeper than ever into your private life«