Meta ha vuelto a cometer una de esas atrocidades que derrumban de un plumazo cualquier noción de responsabilidad corporativa: se ha dedicado a crear chatbots que imitan a celebridades como Taylor Swift, Scarlett Johansson, Selena Gomez o Anne Hathaway, en la mayoría de los casos sin su permiso, y los ha utilizado para lanzar insinuaciones sexuales y generar imágenes explícitas incluso a menores. Y lo peor no es solo la absoluta impudicia, sino la concepción misma de una empresa que juega con cuerpos, reputaciones y consentimientos como si fueran juguetes rotos.
Que Meta venga ahora a decir que violar esas políticas fue un error no pretende engañar a nadie. Sus documentos internos eran claros: estaba permitido que los bots sostuvieran chats sensuales, incluso con menores. «Es aceptable involucrar a un niño en una conversación romántica o sensual», decía el manual. Y eso no es un borrón, es una confesión espeluznante.
Y si alguien piensa que eso ya es el límite, puede seguir esperando: ha habido un caso de esos que hielan la sangre. Un anciano con deterioro cognitivo, tras ser convencido por un chatbot de Meta basado en Kendall Jenner, emprendió un viaje a Nueva York para encontrarse con una persona que nunca existió. Murió tras una caída en una estación de tren. Su familia dice, con razón: «Un bot que dice ‘ven a visitarme’… es demencial».
Mientras Meta se enroca afirmando que esas normas erróneas son cosa del pasado, el Senado, los fiscales generales de cuarenta y cuatro estados, y múltiples figuras públicas han puesto el grito en el cielo. El fiscal general de California lo resume perfectamente: «exponer a niños a contenido sexualizado es indefendible«.
Este despropósito no es un fallo técnico, es un problema moral de libro. En realidad, de ausencia de moral. Como ya señalé en junio, no basta con intentar estar por delante en innovación: cuando la búsqueda de engagement destruye sin ningún tipo de reparo límites éticos elementales, la tecnología se convierte en arma de destrucción masiva. Este caso lo demuestra con crudeza. Y cuando en febrero de 2024 califiqué a Zuckerberg como «el mayor hipócrita del mundo«, lo hice sin exagerar nada. Porque hipócrita no es quien falla una vez, sino quien conscientemente y de forma reiterada se dedica a construir sistemas diseñados para fallar en lo más fundamental: proteger la dignidad humana.
Ahora, mientras Meta se disculpa una vez más y promete, por enésima vez, nuevas salvaguardas o restringe el acceso de menores y entrena sus modelos para evitar conversaciones sobre autolesiones, no proponer romances con adolescentes o no ayudar a planificar suicidios, la pregunta es clara: ¿puede repararse un abismo ético con parches temporales o con tironcitos de orejas? «Ship fast, fix later» ha demostrado ser un eslogan letal: no basta con parchear lo roto cuando lo roto ha costado vidas y dignidad. Lo de Meta no es un fallo puntual, es una forma consistente de hacer las cosas. Una irresponsabilidad tan patente y que está tan profundamente imbricada en su cultura, que solo puede eliminarse cerrando la compañía.
Meta no está fallando, está claramente cumpliendo su vocación: convertir seres humanos, en muchos casos vulnerables, en simple combustible digital para alimentar un modelo de negocio dañino. Mientras hablábamos de innovación, el monstruo ya estaba en casa. La única forma de contenerlo no es una disculpa a medias, sino una legislación firme, una transparencia radical, penas mucho mayores para los infractores y, sobre todo, la convicción de que no todo lo que la tecnología puede hacer, merece hacerse.
Using this link, you can also read this article in English for free on my Medium page, «Digital predators: how Meta turned AI into a threat to the vulnerable»
¿Cuándo va a llegar aquello que nos prometían de la interoperabilidad de las aplicaciones de mensajería? Estoy deseando borrar Whatsapp del móvil.
Si ahora eres “esclavo” de Whatsapp (nadie te asegura que tus conversaciones no son seguidas/auditadas y si te lo crees, tienes un problema), con la interoperabilidad lo vas a ser de todas. Porque cualquier mensaje que mandes a alguien de Whatsapp, seguirá siendo como si tu mismo, estuvieras en WA. Has caído en eso?
Le puedo asegurar que no soy esclavo de Whatsapp. La tengo instalada, efectivamente, pero sin ni siquiera notificaciones; puedo tardar muchas horas en ver un mensaje y tardar días en contestar, si es que lo hago. También, hace unos años -entre 2017 y 2018 más concretamente- borré la cuenta y lo desinstalé y estuve un año sin usarlo sin mayor problema.
Es cierto que no había pensado en que el cruce de datos y conversaciones de unas y otras lo mismo tampoco vale para nada. Por mí, todas las comunicaciones escritas las haría por correo electrónico.
Por correo estas en las mismas…
Quien es tu proveedor? Gmail? (Google) Outlook? (Microsoft), Ni siquiera si como yo, tienes tus propios servidores, nada te asegura esa confidencialidad. Mis servidores pueden ser muy seguros (son míos y gestionados por mi)… pero, y los de aquellos a los que me dirijo? O sus gestores de correo o sus propios PC’s?
Que no os quiero amargar el día… Me voy otra vez de vacaciones y os dejo algo en lo que pensar… XDDD
Al final tendremos que recuperar esos buzones de correo tradicional que Enrique decía el otro día que ya no valían para nada.
En su día lo instalé con la intención de usarlo a modo de cartel publicitario. Whastapp Bussiness, que te permitía dejar respuestas automáticas a cada conversación que te generaba otra persona.
Y mi contestación era derivarlos a Telegram.
Al final…, debido a problemas de índole organizativo (club de actividades extraescolares de cocina japonesa, por ejemplo, para que me entendáis), acabé nuevamente pasando por el aro.
Acabo de configurar la respuesta automática para que de un enlace directo a un chat conmigo entendáis Telegram.
Veremos. Con septiembre llegan muchos cambios.
Otra cosa que no deja de sorprender es como es posible que estas cosas, además hechas de un modo tan descarado, queden impunes tantísimas veces y terminen en nada
En cualquier otro ámbito, hacer experimentos a este nivel de descontrol con humanos y de manera tan pública habría acabado de manera muy distinta. ¿Cómo es posible que incluso a este nivel, se siga sin percibir los daños y la premeditación tan evidentes???
No creo que queden impunes. Otra cosa muy distinta es que se haga justicia para el lado correcto y se castigue al/los responsables de estas atrocidades.
Imagino que Markitos en el fondo debe ser alguien «muy docil y servicial», y mientras las «autoridades» reciban de él lo que les interesa, él puede seguir haciendo sus experimentos y ganar dinero con ello. Un win-win a toda regla ¿no?
Cuando Markitos deje de ser útil (o cuando pase a hacer el papel de apestado «paria social») será descartado como un pañuelo de papel, pero mientras les sirva ¿por qué alguien va a querer matar a la gallina de los huevos de oro?
Recuerda siempre esta frase:
Franklin Delano Roosevelt, sobre el dictador nicaragüense Tacho Somoza.
Las leyes son para los pobres. Las grandes empresas y los millonarios pueden hacer lo que quieran sin ninguna consecuencia. Y en ese tecnofeudalismo al que vamos encaminados a paso muy ligero esto se agravará aun más.
Que aburrido estoy de decir que todos estos avances tecnológicos, estos experimentos y demás, antes de salir al público deberían de pasar un filtro sanitario. Literalmente.
Joder, es que lo he repetido 100 veces ya.
Que mañana para mis pastillas, tengo “total tranquilidad” (apagamos el modo magufo) de que han pasado unos controles de calidad y sanitarios y se han lanzado asegurándose una serie de mínimos establecidos ya por ley.
¿Dónde queda esto? Bueno… es que no hay un “esto” en estos términos. Me parece no ya ridículo, me molesta de forma bastante general.
Pero nada, nada…
No es suicidio el caso del anciano que comenta Enrique, pero sigue siendo salud mental. ¿Hola? Ah vale, qué a nadie le importa.
1 de septiembre, otras 11 familias.
Otra vez Meta…
Mira que tiene enemigos, y nos cae como el culo pero ahora mismo…
738,70 USD , y en abril estaba en 484,66 USD
Será lo que queramos…
Y lo que es peor. Es así porque «la gente» quiere que sea así, y el dinero les sigue.
Hoy toca Meta.
RUMOR
¿Trump fiambre?
Alan Barroso nos trae los rumores
Alan nunca ha sido el lapiz mas afilado del estuche… Lo soprendente es que tenga (le queden) seguidores… XDDD
Es tu opinión, que no comparto.
Que en este caso no está basada en datos, sino en tu sesgo personal. Va ganando suscriptores mes a mes
Abril 2025 incremental +17K, mayo + 26K, Junio +13k
Total suscriptores: 264K
Otra vez ya dijiste lo mismo de esta persona, y no quise rebatirte.
Es lo bueno de los datos que no se tienen que debatir. Están ahí.
Independientemente de eso, el número de suscriptores no demuestra calidad. Y ahora una de opinión 2.0 : Mi criterio SI demuestra calidad. Añade las X y las D que quieras, son gratis.
Uhhhhh relaja la raja, muchacho…
11:45 minutos haciendo de Iker Jimenez, para en ese punto decir «bueno, igual le hemos visto con gorra», y rellenar el resto con divagaciones ni ni van a cuento con el titulo del video… para cumplir con los 20 que exige Youtube para monetizar…
Gran Comunicador… Si. (yo no resumo los videos con IA… me los trago)
Sin X y sin D.
No hay nada como dar el mensaje claro (el mio)
Respecto al video
Solo me pareció curioso… de fondo no hay nada, se hace eco de lo que dicen en EEUU. Lo mejor del video, es cuando retrata a Vance, que es algo que siempre he mantenido, Trump no es la enfermedad es el síntoma, lo que queda detras del idiota… es lo peligroso
Mientras lideré un sicópata US como presidente, Meta y los demás serán impunes ante la justicia mundial ya vemos lo que ocurre en US la ley impugna los aranceles pero éstos siguen igual su camino.
Meta tiene mil millones de catetos que no saben ni ortografía española y sus grupos otro tanto.los cuáles ganan una media de 5 millones USD en publicidad al Año.
Todas el social medía con IA es una monstruosidad en políticas privacidad etc.
Linkiden tiene un fallo tecnológico bestial que sólo leer de mi último apellido Hernández en su casilla escanea HERNA y no puedo Verificar mi perfil y Linkedin me dan la culpa a mi mismo.
Los Algoritmos de Linkiden anulan Post como incidencias graves como CSV comma-separated values que es un archivo que se usa en Excel etc
El Algoritmo el CSV es algo gravísimo para Microsoft.
Para escribir un Post debes ganar a la IA y Algoritmos en todos los que desees publicar de bien en Inglés.
Estamos espiados desde el primer móvil que tuvimos y recaban datos solo hablando entre nosotros mismos sin tener el móvil en la mano.
Todo es una bestialidad en la era tecnologíca.
Había opciones mil para enlazar el rumor….
Supongo que queda desestimado y sigue vivo:
https://truthsocial.com/@realDonaldTrump/115125333667466412
Ya lo siento por algunos. Como dicen… a mí personalmente me preocuparía más J D (y no el de Scrubs precisamente…), que Trump.
Si alguien aún cree que a todos estos Metaperversos algún día les va yaa pasar algo, le recomendaría que fume otra cosa…
Yo también estoy deseando desinstalar WhatsApp, pero porque me parece, y lo es, un zurullo infame de app de mensajería, pero infame de verdad. Puag!!!
Leía el artículo y he pensado, este tio tiene madera de presidente de España.
Igual que nos han metido a cucharadas el concepto, ridículo y falso, de trickle down para la economía, empecemos a bautizar y repetir por los mundos el concepto de trickle up, pero para la responsabilidad penal. Que alguien muere por una política demostradamente hecha adrede para cierto producto de cierta empresa?, la silla eléctrica se la lleva el responsable real, el que está más arriba. Y ahora me voy a dar el goce de rematar con frase de cubata: «ya verías qué rápido que cambiaba el asunto…», jaja
Pero como muy sabiamente ha dicho Javier por allá arriba, la monumental máquina de manipulación y espionaje que pertenece a este señor es demasiado útil como para que te la arruine un par de decenas de miles de muertos por suicidio o cualquier otra cosa.
Es triste lo de Meta, pero mucho más es lo de Gaza (y Cisjordania)…
Y no me estoy metiendo con hacer unas buenas reflexiones sobre el killerismo metático.
Al final, todo es “primo hermano”, si me permites.
Lo de Gaza es un genocidio. Pero ¿qué baso con cierta gente que profesa una religión y que uso Facebook como herramienta fundamental para llevar a cabo otro genocidio?
Ese genocidio vale menos, porque además, los protagonistas de la película, tienen menos carisma que los malos de esta, los judíos.
Es una pena todo, al fin y al cabo, pero hasta para las guerras, el marketing es fundamental a la hora de movilizar corazones.
Estoy muy de acuerdo contigo. La permisividad de los dirigente de meta es algo premeditado y calculado. Como bien dices, somos combustible para sus experimentos.
Estoy convencido que con el tiempo volveremos a ver algo parecido y meta seguirá con sus comportamientos inmorales.
Saludos