La BBC avanza un tema que lleva tiempo siendo la preocupación de muchos: la posibilidad de que los nuevos modelos masivos de lenguaje (LLMs) sean utilizados por las factorías de bots para crear contenido de manera barata y sencilla en redes sociales, mediante la creación de cuentas falsas que participan en la conversación de manera no genuina.
El problema del fake engagement en redes sociales es completamente real. Para mi, por ejemplo, es totalmente cotidiano: cada vez que escribo una actualización en mi cuenta de Twitter, un par de bots contestan a ello intentando promover una estafa. Cada. Maldita. Vez. En mi caso, eso quiere decir que tengo que perder miserablemente el tiempo denunciando esas cuentas, explicando que son bots de spam automatizados, y bloqueándolas… para que, realmente, no sirva para nada. Solo tomando los cientos de cuentas que llevo meses bloqueando podría entrenarse un algoritmo que aprendiese a reconocerlas y a bloquearlas de raíz. Pero no, no se hace nada.
El equipo correspondiente responsable del tema en Twitter no está ni se le espera. La red social que afirmaba que eliminaba más de un millón de cuentas de spam al día y que supuestamente tiene un mecanismo para que reportes los bots no mueve ni un músculo a la hora de bloquear una factoría de cuentas falsas que vomita cada día miles de mensajes promoviendo estafas en la red. Que el propio Elon Musk afirme sin despeinarse que el 90% de los comentarios en Twitter son hechos por bots no anima, precisamente.
Crear un bot que genere contenido en redes sociales es relativamente trivial, y ya hemos visto casos en los que se ha demostrado que se podía crear ya no una cuenta, sino un auténtico influencer completamente falso, de manera puramente algorítmica. En la escalada armamentística que se lleva a cabo entre los gestores de redes sociales y las factorías de spambots mediante el uso de algoritmia, los malos van claramente ganando por goleada. Crear algoritmos capaces de reconocer de manera fehaciente una cuenta falsa y cerrarla sería realmente sencillo, pero simplemente, no se hace. Por lo que se ve, hay otras prioridades. Pronto, los spambots creados algorítmicamente no solo se venderán al mejor postor, sea un spammer, un delincuente, un estafador o un partido político, sino que además, parecerán cada día más reales y serán potencialmente más dañinos. La perspectiva de unas elecciones con redes de millones de bots simulando actividad genuina para generar determinados estados de opinión es verdaderamente aterradora.
La tecnología es una herramienta, y como tal, puede ser utilizada para bien y para mal. Dada la ingente cantidad de datos que genera una red social, entrenar un algoritmo que sea capaz de discriminar qué cuentas responden a patrones que se correspondan con la actividad spambots debería ser muy sencillo, y de hecho, se ha hecho anteriormente. La clave está en entender que esa actividad es una carrera continua, que los spammers tratarán constantemente de eludir los criterios de esos algoritmos y de seguir pasando su actividad como supuestamente genuina, pero que si dejas de hacerlo, esos spammers tomarán tu red por asalto y no solo disminuirán su calidad, sino que arruinarán la experiencia de muchos usuarios. Si además, por pura inacción, permitimos que esos spammers se sofistiquen más aún y se beneficien de tecnologías ya ampliamente difundidas para «mejorar» su actividad, estamos ante un problema de calidad muy importante.
This article is also available in English on my Medium page, «Here’s the dark side to ChatGPT: billions of fake social network accounts in the hands of bad actors»
«La perspectiva de unas elecciones con redes de millones de bots simulando actividad genuina para generar determinados estados de opinión es verdaderamente aterradora.»….Este y no otro , es el problema.
El otro dia leía que el costo para crear ejercitos de bots maliciosos ha bajado de manera exponencial con la llegada de las nuevas AI´s generativas, y no solo eso si no que los bots serán mucho mas sutiles y personalizados.
Por otra parte, en uno de los articulos que carga hoy Enrique en Technology readings se habla del intento de los Republicanos de crear un AI chatbot propio (imagínate como de neutral).
Es decir, si Donald Trump ganó por medio de groseras manipulaciones en el pasado (no hacia falta mas para dirigirse a las elementales mentes que le votaron), imaginemos con estos medios.
Pinta muy, muy mal.
Pensar que los bots van a ser construidos sólo por los de un lado, es ser terriblemente optimista. Mas bien, es que si el bot es republicano, es muy malo y peligroso para la democracia, y pero si el bot es demócrata, es simple publicidad electoral.
No son los demócratas los que han pedido crear uno propio.
Es que sabes que pasa, que seguramente ChatGPT tiene instrucciones para contestar que los golpes de estado no son admisibles, y que las elecciones que todos los jueces del pais declaren como justas, lo son.
Para saltarse esas y otras mil instrucciones hay que crear una AI propia.
A no ser que pongas en el mismo plato a golpistas y demócratas.
Los republicanos trumpistas necesitan una superburbuja informativa en todos los ambitos.
En TV, Fox (ya sabemos lo que ha pasado recientemente con llos mensajes que se pasaban los presentadores), en redes sociales , Truth Social (con su máximo pontífice al mando, quien por cierto está amenazando con caos, violencia y destrucción si el juez le toca un pelo), y ahora una AI «ad hoc».
El problema de USA no es la polarización, el problema es que una de las dos partes polarizadas no respeta la existencia de la otra.
Cuando Al Gore perdió por 537 votos llamo a Bush para felicitarle antes incluso del resultado judicial, por el bien del pais, que ya empezaba a calentarse. . Igualito que Trump, cuando perdíó por varios millones, y con todas las sentencias en firme en su contra.
Claro, un ladrón se quejará también de que las AI,s tienen sesgos antichorizos, y la asociacion de chorizos y maleantes tendrán que montar una propia.
Ya sabemos que los demócratas no hacen campañas publicitarias por todos los medios, que no traten de convencer a la gente que voten al mejor, sea quien sea.
Por otra parte es sabido que los que votan a los republicanos son cretinos que no piensan y los que votan a los demócratas, lo hacen después de largas reflexiones, comparando las promesas electorales de unos y de otros.
Me gusta el sarcasmo en tu comentario; es el problema principal de la política y creer que uno es bueno y otro malo, resulta que debemos saber que no hay nadie bueno.
Cuando los democratas asalten armados pizzerias porque los suyos les han contado que los republicanos tienen a niños esclavizados sexualmente en el sotano o asalten el capitolio para impedir la confirmación de un presidente democraticamente elegido disfrazados de bisonte porque su candidato les ha dicho que le han robado las elecciones igual los pongo a la misma altura. A su inteligencia y a su propaganda.
Pero sí, ya sabemos que a los librepensadores que no sois ni de un lado ni de otro pero casualmente siempre defendeis a los del mismo lado, os gusta mucho repetir que todos son iguales.
Prefiero ser librepensador que esclavopensador, pero ya sabemos que sobre gustos no hay nada escrito.
librepensador en el sentido tengo libertad para tomarme una caña…
Espero impaciente el programa de Ayuso, hace 2 años, teniamos una foto de nuestra fotogénica presidenta con una palabra «libertad»
Espero que le haya dado en 2 años para la segunda cartilla de «Rubio según MAR»
PS: La estrategia le funcinnó para librarse de Aguado, todo hay que decirlo- Monasterio tiembla!
Volveremos al papel y lápiz, y a las reuniones presenciales, para evitar la intervención de participantes ficticios. Al menos hasta que la IA fabrique el primer Terminator que se nos cuele por humano.
Tratando de ser sucinto, porque el tema ya hiede en profundidad…
El puto Pato Trump gana, sobre todo, porque sus putos votantes tienen un filtrado mental tan escaso como podrido. Su ADN lo tiene tan tapado por capas y capas de hamburguesas y kepchup, que no les dejan percibir un átomo de realidad, ya no digamos una enorme molécula de ADN.
Claro está que, hasta puede que la naturaleza les permita tener una opinión contraria a lo que yo afirmo. La vida es muy compleja. Y la naturaleza se pirra por ser lo más neutral posible.
Este tipo de gente posee un adn social negativo, que puede ocupar el desierto de Arizona y necesitar aún una parte de todo el territorio californiano… incluido el virtual made in Hollywood. Está conformado desde que masacraron a los nativos norteamericanos y se tuvieron que poner a salvar al mundo conocido, con dos guerras mundiales y un sin fin de guerras parciales (donde aprendieron a meter la pata, como auténticos «amos de ese mundo»).
Así que sí, hay algo que se llama educación/nodomesticación, que promueve el montaje de filtros mentales para que ningún bot nos haga de intérprete (otra cosa es que molesten el twitter de EDans… y puedan ser auténticas moscas cojoneras… pero en la prensa diaria los hay a montones, con certificado de nacimiento).
Hacer que cualquier tipo de policía nos resuelva los problemas más íntimos (como pensar, por ejemplo), es de crías humanas, acostumbradas a la protección de los adultos «malos». Es perder toda posibilidad de tener una adolescencia «con xeito», que nos pueda formar como adultos. Capaces de superar la mediocre versión de HS que seguimos siendo.
No comprendo los problemas que muchas personas tiene en Twitter, Si entre las dos opciones que hoy tienes, («Para ti» y «Siguiendo»), eliges la opción «Siguiendo», en tu TL sólo entran los twitts que escriben los que sigues y lo que estos retwittean porque consideran interesante.
Si como debería ser lógico, solo sigues a personas físicas o jurídicas, que cuentan cosas interesantes, no te entra ningún mensaje de un bot, porque, por lógica no sigues a un bot, por tanro aunque escriba mucho no te llegará.
Sólo te podría llegar si uno de los humanos a los que sigues, lo retwittea, y eso es muy poco probable si sigues a gente sensata.
Contra todo pronóstico Twitter sigue funcionando, lo que demuestra lo sólidamente que estaba construido.
Ahí sí que llevas razón.
Jolín, Gorki. Esto ya se ha explicado varias veces por aquí.
A ver, yo en Twitter no soy nadie. Tengo unas decenas de seguidores y sigo a algunos más. Es decir, soy un NADIE, un CERO a la izquierda.
Me temo que tú no eres mucho más popular.
Por tanto, cuanto tú posteas o retuiteas, nadie se molesta en utilizar bots para responder tus tuits (ni los míos).
Por eso sólo recibes lo que sigues (como yo).
Edans tiene una puñetera legión de seguidores Al margen de cómo se considere él mismo, para la plataforma es un «influencer», sus tuits se retuitean por miles.
Por tanto, los botmasters, utilizan sus tuits como palanca para responder y retuitear. Por eso él recibe cientos de respuestas de bots todos los días y tú (y yo) no.
Así de simple. Así de jo***o.
Saludos.
Es el peso de la purpura. Por eso yo trato de pasar desapercibido
Lo del spam, porque es al final de lo que estamos hablando es una práctica bastante odiosa, solo nos faltará un deepfake de Enrique recomendado en un video coches que no ordenadores con ruedas, móviles para «pobres», gamuzas Vileda o invertir en acciones de Meta. Hasta ahí podríamos llegar.
Varias conclusiones del artículo
a) El «personaje» no ha solucionado aún lo de los BOTs de twitter. Claro que si no encuentra a un CEO, va a solucionar algo ten nimio, que no se arregle despidiendo a gente, y en ello está se carga la API cuando la quiere hacer de pago, sin poner la plataforma de pago, … Enrique se queja: «Pero no se hace nada», tranquilo que ya le falta poco para quebrar twitter, tic tac
b) Ahora podemos leer en varios anuncios que hay libros redactados por chatbot. Eso es hacer el bien o hacer el mal? Dependerán del tema. Ahora al menos estarán redactados como si los hubiera escrito un estudiante de secundaria. No todo es malo. Tenemos un listón gracias a chatbot a la mediocridad de la cria humana usando la expresión de mi compañero comentarista. Aunque los tramposos usen pértigas.
c) Si el SPAM 2.0: Usar bots para escribir bots. Vaya la endogamia. Esto es incesto!! y de esta lujuria sin freno no se puede engendrar nada bueno. De la consanguineidad solo pueden emerger enfermedades que antes tenían las casas reales, pero no todo es malo, ahora tweets de Trump como si hubiera algo ahí dentro. En este último caso, con nada podría mejorar la redacción.
BOLA EXTRA: HONOR Y GLORIA
A cada ruina moral su remedio, podemos piratear al transfuga con el diario de sesiones con todas las intervenciones del día. pero tiene algún interés leerlo? Para que el piense que si, mejor comprarlo. Así que como se dice en el teatro, le deseo mucha mierda al Sr. Tamames con este libro, para que deje algo de recaudación en la S.S. Nada que ver con los Einsatzgruppen der Sicherheitspolizei, salvo el revisionismo latente.
La valoración de Twitter depende en gran medida de su número de usuarios, por lo tanto ¿qué incentivo tiene para controlar las redes de bots?
Algo muy cercano a cero.
Si tienes anunciantes si depende del número de usuarios.
Pero si el número de anunciantes se ha rebajado por las políticas del personaje, entonces… el número de usuarios se la trae floja al personaje. Si además dices que en la RRSS hay mucha publicidad, lo que estás diciendo a las claras que no vas a cambiar de estrategia, y que sus clientes que pagaban (anunciantes) le importan un comino.
Y si no le importan cuentas millonarias de anunciantes, que iluso cree que se va a molestar en la experiencia de un señor nacido en A Coruña y que se queja que tiene todos los días bots maliciosos
Esto es, que estoy de acuerdo, pero ya que tenga o no incentivo, sino diría más, que le importa una mierda el prójimo, solo existe él y su ego.
Cuando alguno se alegraba en que se podía optar a la estrella azulita, tendría que haber reflexionado que eso era solo la puntita del iceberg del personaje, y que venía con el pijama a rayas de regalo, del negrerito.
Pues será que no hemos visto el patrón veces en esta vida. TODOS tienen el mismo patrón. TODOS. Repito — todos —
DATOS:
* The Information publicaba que los ingresos diarios de la compañía se han reducido un 40% con respecto a hace un año y que 500 anunciantes relevantes han dejado de invertir en sus anuncios.
* Also, there will be a higher priced subscription that allows zero ads. Elon Musk (@elonmusk) January 21, 2023
Veo tus 10 y subo… XDD
Elon Musk ha decidido que recibas el emoji de la caca si escribes al correo de prensa de Twitter. Así expresa su descontento
El problema de calidad de twitter empieza por un CEO de mala calidad.
Pero el lío va a venir si empiezan a marcar como spambot las cuentas reales que no lleven insignia y, además, hay que pagar para rehabilitarla y acceder a la verificación o el 2FA.
Musk no tiene ni idea de como hacer rentable Twitter, así que podéis empezar a realizar backups y abrir cuentas de backup.
Avisados todos.
–
Off topic:
Hay un caballero en el congreso de los EEUU que le ha preguntado al presidente de Tik tok si la app utiliza la güifi. Le ha faltado decir delante de las cámaras que nada de espiar que eso sólo lo pueden hacer ellos.
La tecnología es una herramienta, y como tal, puede ser utilizada para bien y para mal. Esperemos que aún reine la conciencia humana y sea para lo primero. Saludos y a disfrutar del viernes.
Para desgracia de muchos (y sorpresa de pocos) el Dr Maligno acecha en todas partes… si alguien se sorprende de que exista un uso malicioso, es que aun cree que los cuentos de Disney son verdad…
OFFTOPIC:
Hemos hablado ultimamente sobre las litografias en los chips. Nvidia sube el limite con cuLitho XDD
NVIDIA, ASML, TSMC and Synopsys Set Foundation for Next-Generation Chip Manufacturing
Enrique Dans, crees que la promoción algorítmica de bots de fake engagement y la no respuesta, aun siendo relativamente sencilla, de Twitter y quizá de otras redes, obedece a que saben que las noticias negativas tienen más atención que las positivas? Parece existir un sesgo humano adictivo por las noticias malas, y parece que lo bueno no es noticia. En suma, están jugando con los sesgos humanos para hacernos más adictos a las redes?