Cuentas falsas, fraude y futuros disfuncionales

Twitter botEstuve preparando un poco una entrevista con RTVE para hablar del fenómeno de los seguidores falsos en redes sociales, y más concretamente en Twitter, un tema que ha saltado recientemente a la actualidad con el desarrollo de algunos estudios que tratan de indagar en las dinámicas de este tipo de mercados. El nivel de extensión y desarrollo de este tipo de prácticas resulta sorprendente, pero lo es más aún la carrera paralela entre los que crean cuentas falsas y los que las intentan detectar, o los determinantes de uso para este tipo de servicios.

Un grupo de investigadores de UC Berkeley trabajaron directamente con Twitter para obtener detalles de este tipo de prácticas. Llegaron a gastarse cinco mil dólares en la adquisición de 120.000 cuentas falsas de veintisiete proveedores diferentes a lo largo de diez meses, con un coste de entre $10 y $200 por cada mil cuentas, todo ello supervisado y aprobado por Twitter. La actividad de algunas de esas páginas permite entender claramente las dinámicas de la actividad: las ofertas dan la posibilidad de escoger entre sistemas simples en los que se obtienen seguidores sin ningún tipo de filtro, sin fotografía y con el fondo azul por defecto, hasta otros en los que se entregan seguidores de un país o en un idioma concreto, con fotografía, con biografía, con un fondo diferente, o con un cierto nivel de actividad consistente en algunas actualizaciones o retweets. Puedes comprar simplemente cuentas, seguidores, o incluso servicios que incrementan tu cuenta de seguidores en un número determinado por día. Puedes recurrir a foros oscuros, o comprar en proveedores que ofrecen diversos niveles de garantía y servicio post-venta.

La mayoría de los servicios que pretenden ofrecer un porcentaje de seguidores falsos de una cuenta determinada son profundamente simplistas, basados en métricas tan superficiales como la actividad o el ratio de seguidores/seguidos. Aplicar uno de estos supuestos “monitores” a cualquier cuenta permite comprobar cómo usuarios que no son en absoluto sospechosos de haber comprado seguidores obtienen porcentajes típicamente entre el 10% y el 20%, un procedimiento tan absurdo como lo que supone calificar de robot a cualquier cuenta con un cierto nivel de inactividad, o que únicamente utilice Twitter para seguir a otros y no para crear contenido propio. Interpretar los resultados de ese tipo de tests como fiables supone una simplicidad absoluta y una prueba de que el fenómeno no se ha entendido en absoluto, porque en realidad, la determinación de la falsedad de una cuenta responde a un complejo cálculo de heurísticas que incluye variables de muchos tipos: desde los propios servicios, por ejemplo, se parte de la dirección IP para intentar ver si desde una en concreto se ha creado un número anormal de cuentas – lo que determina que se recurra en muchas ocasiones a botnets para poder abrir cuentas desde ordenadores zombies – y se incluyen variables como el nivel de personalización de la cuenta, el ratio entre seguidores y seguidos, las pautas de publicación y el tipo de contenido distribuido. Además, se utilizan también patrones obtenidos de la observación agregada de muchas cuentas, tales como como patrones reconocibles en los nombres de usuario o en la cuenta de correo electrónico utilizada, la actividad repetitiva o por oleadas, etc.

En paralelo, los proveedores de este tipo de cuentas intentan a su vez superar los mecanismos de comprobación: en el caso de Twitter, las cuentas con correo electrónico verificado alcanzan precios sensiblemente más elevados. En el de Facebook, por ejemplo, el incremento de precio entre mil cuentas no verificadas telefónicamente o ya verificadas puede ir desde los $400 a los $1800. La naturaleza asimétrica de la red hace que en muchas ocasiones interese “madurar” cuentas, desde las que se sigue a muchos usuarios y que incluso se siguen entre sí, dando lugar a redes que resulta muy difícil desentrañar si no se tiene la posibilidad de acceder a una visión agregada.

¿Qué razones alimentan el desarrollo de este mercado negro de cuentas falsas? Además de los propósitos directamente delictivos, como la creación de cuentas para enviar vínculos de malware o de spam, el uso fundamental responde al intento de simular un nivel de relevancia que no se tiene o que no se ha obtenido aún, en esquemas que acomodan desde la más pura vanidad personal hasta objetivos corporativos de entidad más elevada. En muchos casos, hablamos de personas que o bien perciben un beneficio del hecho de aparentar una relevancia mayor de la que tienen, tales como personas con una vertiente pública determinada, políticos, etc., o usuarios que acceden a Twitter y necesitan generar una dinámica de crecimiento elevada, que puede resultar difícil o más lento obtener si parten de un número reducido. En otros casos podemos hablar de un “uso inverso”: comprar followers para una empresa o un candidato rival, para posteriormente exponer el esquema y caracterizarlo como fraude. El mismo esquema se utiliza en YouTube, donde el número de visualizaciones se utiliza como invariable espaldarazo de popularidad y eso lleva a que aparezcan servicios que venden cinco mil “visualizaciones” por diez o quince dólares. Aproximaciones como la de Klout, que deriva indicadores de relevancia no solo de la actividad de una cuenta, sino del nivel de respuesta generada entre aquellos que la siguen expresada en variables como respuestas, retweets o favoritos, dan lugar a un entendimiento muy superior de este mercado y de las dinámicas que lo sostienen.

¿Puede justificarse el uso de esquemas de compra de followers en algún tipo de estrategia? En principio, la sola mención del recurso a un sistema de este tipo por parte de cualquier tipo de agencia, asesor o “experto” debería ser suficiente como para que dejásemos de utilizar sus servicios y saliésemos por la puerta de sus oficinas sin intención alguna de volver a entrar. Aunque un crecimiento de followers determinado pueda supuestamente servir para estimular la visibilidad de una cuenta recién creada o para “prender la mecha” en determinadas pautas virales, el uso de ese recurso no solo suele ser relativamente fácil de detectar y de exponer, sino que, además, suele generar una dinámica equivocada y poco sostenible, un atajo que puede fácilmente terminar por salir caro, y que no define a un “listo”, sino sencillamente a un sinvergüenza. Que un fraude afecte a variables que una parte de la sociedad no es aún capaz de entender no lo convierte en menos fraudulento, y debe ser utilizado para definir con claridad una categoría moral.

Sin embargo, el mercado de followers falsos no solo no parece estar en recesión, sino que manifiesta unas características de estabilidad notables, una elevada resiliencia a las nuevas medidas desarrolladas por las redes sociales, y esquemas razonablemente lucrativos. ¿Llegaremos a un futuro en el que robots con programas sofisticados desarrollen identidades ficticias completas que simulen personas reales, con actividades que siguen gustos, dinámicas y sesgos propios? ¿Un ejército de perfiles falsos con vidas virtuales propias que siguen comportamientos sociales subastados al mejor postor, y que lleguen a resultar verdaderamente difíciles de diferenciar de un perfil de una persona real? La idea resulta como mínimo provocativa, digna de un libro de Philip K. Dick llevado a un escenario virtual: en muchos sentidos, el desarrollo de las heurísticas utilizadas para diferenciar cuentas reales de ficticias supone un paralelismo casi perfecto con el test Voight-Kampff  utilizado en Blade Runner para diferenciar a las personas de los robots, y las “mejoras” progresivas introducidas en ese mercado negro de perfiles falsos sugiere una posible evolución de este tipo. ¿Vamos de verdad hacia un futuro repleto de “replicantes” sociales que inician supuestas tendencias y fenómenos virales variados en función de intereses comerciales para que grupos determinados de humanos los sigan como borregos?

 

(This post is also available in English in my Medium page, “Fake accounts, fraud and dystopia“)

 

ACTUALIZACIÓN (03/03/2014): Entrada citada por Rubén Sánchez en “Twitter está lleno de zombis“, en El Confidencial.

23 comentarios

  • #001
    destroyer - 27 agosto 2013 - 14:49

    Hola Enrique,

    Y tampoco hubieran tenido que necesitar tanto presupuesto; Yo, por ejemplo, me creé una cuenta falsa para comprar seguidores y ver si eso realmente ‘funcionaba’. Efectivamente, por 4€ me dieron 6.000 followers. Todos bots con uno o dos tweets… Y experimenté además que para los mercados y herramientas que comercializan tweet patrocinados… ¡Pasaba desapercibido! Te ofrecían dinero como si fueran reales, ni siquiera comprobaban si eran inactivos, o fakes.

    Creo que twitter tendría que meter la mano aquí, y en las cuentas inactivas de la red.
    Un abrazo,

  • #002
    Iñaki - 27 agosto 2013 - 17:18

    Un artículo muy interesante no solo a nivel de redes sociales, sino también por el alcance sociológico de lo que esconde este tipo de prácticas, tanto el hecho de lucrarse con su generación como el de quienes usan estos servicios para no se sabe muy bien qué. Aunque se intuye.

    Este artículo no generará encendidos debates como otros tuyos, pero a mi me parece una reflexión muy acertada.

  • #003
    Antonio Castro - 27 agosto 2013 - 17:45

    El primer intento de crear un programa que conversacionalmente pudiera asemejarse con el de un humano fue el programa Eliza creado por Joseph Weizenbaum. Llegó a confundir a algunos en su uso inicial. Esto fue en 1965 y todo el mundo pensó en alque instante que el futuro de la IA eara algo muy prometedor. Los japoneses hicieron inversiones millonarias y los resultados siempre fueron decepcionantes y continúan siéndolo pese a los intereses multimillonarios que existen sobre estas tecnologías. Todo ello es fruto de nuestra absoluta ignorarancia sobre el funcionamiento de cerebro humano.

    El Proyecto Cerebro Humano (proyecto medico-científico y tecnológico financiado por la Unión Europea y dirigido por Henry Makram), pretende poner luz en un campo cuyo potencial de aplicaciones tecnológicas es de unas dimensiones inimaginables.

    Los robots han sustituido con éxito en la industria a los humanos en lo que se refiere a sus habilidades mecánicas. ¿Imaginamos a una industria que no necesite seres humanos en absoluto? Si las máquinas llegaran a pensar tan bien como los humanos, la única persona que necesitaría una industria sería a un propietario.

    Estoy exagerando, pero a mí me empiezan a dar miedo el nivel de avance científico y la forma en que este se está gestionando por los políticos. Por ejemplo los avances en comunicaciones se están usando de formas muy poco democráticas.

    Me da miedo que la humanidad pierda el control sobre el reparto de poder y desaparezca la democracia para siempre.

  • #004
    ema - 27 agosto 2013 - 17:50

    Hola Enrique, si resaltases algunas frases en negrita en tus textos nos haría más sencilla la lectura ;)

  • #005
    Cristina - 27 agosto 2013 - 18:52

    Esta vez me ha costado :-) si pienso a las personas a las que realmente sigo y miro mi twitter, no ejerzo de seguidora realmente. Solo con unas 10 personas y siendo muy honesta. Seguir implica en mi caso, dedicarle a varios twits de una persona quizás durante 3 o 4 días, en un tiempo disponible, que son unos 4 o 10 minutos por persona o empresa. Las listas deben ser muy utiles para segmentar temas. Cuando tengo mas tiempo, leo twits que aparecen en ese momento. A no ser que la maquina me siga a mi, y su perfil sea muy significativo, me cuesta imaginar en que circunstancias puedo seguir a una maquina sin darme cuenta de que no hay otra informacion que constituya un perfil. Si he detectado perfiles que me han seguido, con cero followers y siguiendo a muchos con cero twits. Pero no los sigo, porque no veo el motivo. Esto hace que me replantee en este momento, hacer una limpieza y analizar a quien mas debería seguir y que no sigo!!!! :-) porque seria complicado saber quien me sigue con oscuras intenciones?

  • #006
    Francisco Javier Garcia Orts - 27 agosto 2013 - 19:14

    Hay gente para todo.

  • #007
    Anónimo - 27 agosto 2013 - 23:08

    Gracias.

  • #008
    antonio garcia saenz - 28 agosto 2013 - 01:52

    Estan los que se hicieron cuentas autenticas en Facebook o Twiter, luego todos estos tuvieron tambien cuentas falsas mas los que solo tienen ya cuentas falsas, a añadir a las cuentas robóticas de nosecuantos que dices … y luego estan los que acertaron en la diana, ahora lo comprobamos, los que no tienen ninguna cuenta en redes sociales, se resistieron toda esta serie de años que llevamos como década, y se ve como les va mejor en todo y sobre todo la cantidad de horas que han aprovechado, MILES mas que los que si tienen cuenta … y de transfondo siempre permanece que internet no es un contexto válido

  • #009
    CyberGus - 28 agosto 2013 - 09:06

    Muy interesante… ¡a compartirlo! ya hace tiempo que también he observado esos fenómenos de personas que tienen cosas como 53 followers nuevos por día, así, número idéntico y las cuentas que les siguen cero interacción.

    Saludos

  • #010
    Luis Diaz - 28 agosto 2013 - 09:36

    Disfuncional? El mercado lo estaba pidiendo a gritos. Estás viviendo en el futuro que propones desde hace varios años. Tu propuesta de futuro distópico es solo una introducción somera de lo que realmente esta pasando.

  • #011
    Enrique Dans - 28 agosto 2013 - 09:41

    #010: Not so, o al menos, not so fast. Si sigues ese mercado desde dentro – a mí, particularmente, me ayuda mucho la colaboración con BigML, dedicada al machine learning, puedes comprobar que el nivel de conocimiento y de desarrollo del tema no está aún ni siquiera próximo a lo que defino como disfuncional. Una cosa es imaginarse una novela, y otra hablar de tecnologías instaladas y funcionando. Los algoritmos que hay detrás de un bot en redes sociales son aún muy burdos y primitivos. Aún no corres el menor riesgo de enamorarte de un bot pensando que es una persona – o sí, que como dicen por ahí arriba, “hay gente pa’ tó”… ;-)

  • #012
    Anónimo - 28 agosto 2013 - 12:52

    Enrique,

    Sabes que yo denuncié este tema hace mucho tiempo. Estamos ante una auténtica distopía. Y este tema debiera dar para mucho debate.Por mi parte, estoy muy desilusionada con las redes, los social-media y demás. Puro humo. Tim Berners Lee ya dijo lo que pensaba de las redes…y acertó…

    Un abrazo

  • #013
    Mario - 28 agosto 2013 - 13:13

    Que falta de fe y conocimiento de la economía de internet sorprendente en alguien como Enrique Dans. Los millones de falsas cuentas en Twitter y Facebook cumplen la importantísima función de hacer creer que los social media consultant y los community manager sirven en realidad para algo, a la vez que elevan las cuentas de publicidad de los anunciantes que tratan de venderle detergente a un robot. La siguiente conferencia trata específicamente el tema del Twitter y lo explica con demoledora transparencia:
    http://www.youtube.com/watch?v=CK62I-4cuSY

  • #014
    Luis Diaz - 28 agosto 2013 - 13:22

    Este tema requiere una charla más profunda! Y me gusta muchísimo! Si organizo una mesa de expertos en social media y expertos en PLN y machine learning ¿Te apuntarías? Puede ser en algún evento o la sobremesa de una comida o cena :)

  • #015
    Miguel P - 28 agosto 2013 - 14:15

    No estoy del todo de acuerdo con la descalificación de los que usan estos métodos.

    En la Feria del Libro o en los mercadillos, es muy normal que se pida a familiares, amigos o incluso desconocidos pagados (claque) que estén alrededor de la caseta o puestecillo para “crear ambiente” y que la gente se acerque, ya que cuando vemos un puesto vacío, instintivamente lo evitamos.

    ¿Por qué son sinvergüenzas los que utilizan un método automático de generación de interés y no los que usan un método “manual”?

    Quizá el error sea en realidad considerar relevante una cuenta por sus followers o una caseta por la gente que hay mirando artículos.

    Un abrazo y enhorabuena por el blog

  • #016
    Noticias de España - 28 agosto 2013 - 14:31

    Lamentablemente esta es una práctica habitual dentro y fuera de la red. Se compran seguidores, voluntades, votos…
    No debería de sorprender a nadie que exista la versión online al alcance de cualquiera.

  • #017
    Carlos - 28 agosto 2013 - 15:26

    Buen post Enrique! Muy interesante.

    Ante tu pregunta final, entiendo que una gran mayoría sí “seguiremos” movimientos influenciados por intereses comerciales, esto no es nada nuevo, ya lo hacemos a diario con mensajes que recibimos en TV, prensa, blogs, etc.
    La novedad es que todo estará algo más automatizado.

    Personalmente creo que una marca/empresa que compra followers para intentar ser algo más relevante es una marca con una visión cortoplacista y que sufrirá tarde o temprano el “castigo” de los usuarios.

  • #018
    Gorki - 28 agosto 2013 - 17:51

    ¿Llegaremos a un futuro en el que robots con programas sofisticados desarrollen identidades ficticias completas que simulen personas reales, con actividades que siguen gustos, dinámicas y sesgos propios?

    ¡Ojalá se llegue!. Creo que esa es la única forma de protejer nuetra privacidad, la misma forma en que se crea el anonimato en las grandes ciudades. Imaginemos un mundo, en el que cada uno de nosotros, tienen su PC un robot que crea unos centenares de personas ficticias que mandan twitter, emails, escriben post,comentan etc, con otras personas ficticias con tanto realisma, que nadie es capaz de diferenciar si lo que se escribe es de un robot o de un humano. salvo que tu sepas que quien lo escribe y lo recibe son robots.

    Ponemos esos cien robots a parlotear entre si con los cien robots de los amigos y con los de los amigos de los amigos, Añadimos un filtro en nuetro PC que cuando entra algo hacia una persona ficticia sin mula que lo que lo lee y lo borra o lo manda a determinadas carpetas.

    A ña sombra de ese inmenso paraguas, podremos hablar con nuetros amigos de carne y hueso de lo divino y lo humano sin que quienes estan atentos a las comunicaciones, sea Google o cualquier gobierno, tengan forma de discernir si lo que controla parte de la mente de un humano o de la IA de un robot.

    Nuevamente tende remos privacidad.

  • #019
    Gonzalo Reynoso - 28 agosto 2013 - 19:51

    No le veo ningún sentido a esto, salvo para alardear a ver quién la tiene más grande. Inflar estadísticas no cambia la realidad de las cosas. Lo que siempre me pregunto es si estas artimañas son capaces de apalancar resultados verdaderamente significativos a los objetivos de quien las utilice. Personalmente, lo dudo.

  • #020
    Antonio Pineda - 30 agosto 2013 - 13:01

    La vida de Twitter, de Facebook o de otras redes como Youtube o LinkedIn llevan poco tiempo a nuestro alrededor. Todavía recuerdo en los años 90 el uso de las BBS locales para la descarga de software de poco peso… Desde entonces hasta ahora solo han pasado unos 12 años. Poco tiempo si sumamos todos los años que tiene este viejo planeta.

    Durante esos 12 años he asistido a cientos de congresos donde siempre te decían lo mismo cada vez que aparecía una nueva red social o una nueva tecnología: patrones de conducta que deben tender hacia el respeto, la honestidad y el contenido democrático ¿Será capaz una máquina de seguir este patrón sin tendencias especulativas ni perversos planes empresariales? Dudo que no, porque si algún día un cerebro mecánico a través de nanotecnología sea capaz de igualar a un cerebro de una persona, estará diseñado a imagen y semejanza del ser humano. Dudo que por entonces los que leemos o escribimos en este blog estemos vivos.

  • #021
    Carlos (Econ) - 6 septiembre 2013 - 12:04

    “un ejercito de perfiles falsos”.

    Lejos de asustarme, suena como la salvación ante el abuso por parte de los estados. Si Internet se llena de identidades falsas, la información veraz quedará desvirtuada por la duda.

    ¿Y si creo una identidad falsa para cada dispositivo que tengo?

    Por ejemplo, en el móvil puedo ser José Manuel Prieto Pigazo, y si el móvil cae en manos ajenas no afectará a mi perfil real.

    Que me preocupe el fascismo de Estado no quita que también me preocupe mi propia naturaleza olvidadiza :-)

  • #022
    Adriana - 12 septiembre 2013 - 13:22

    Millones de cuentas falsas…se veía venir que esto iba a suceder. Muchas empresas piensan que cuantos más seguidores o amigos, mejor. Muchos estudios recientes dejan claro que lo mejor es tener seguidores de calidad y ofrecer contenido de calidad, porque solo eso les posicionara en condiciones y mejorará su prestigio online. Buen post sobre el mercado que existe de esto.

    Un saludo,

    Adriana

    VGS tecnologías web

    www.vgsystems.es

  • #023
    ccmviajes - 24 septiembre 2013 - 18:24

    Vivimos en una sociedad que se compra/vende de todo, hasta los votos y las voluntades.

    Casi es igual un tweet de una persona real que ha cobrado por escribirlo que el de una cuenta falsa de una persona que no existe.

    Son ambos casos reflejos de la sociedad que hemos creado.

Dejar un Comentario

Los comentarios están cerrados