La corrupción espontánea de los sistemas sociales en la web

IMAGE: Adam448 - Pixabay (CC0)

Un artículo de investigación en CNBC, «Amazon is filled with fake reviews and it’s getting harder to spot them«, expone un problema del que ya se lleva hablando bastantes años: la brutal caída en la calidad de las valoraciones o reviews en Amazon, completamente pervertidas mediante esquemas de compañías que compran valoraciones positivas para sus productos o negativas para productos competidores, en páginas de Facebook o de cualquier otra red social.

Más allá del caso específico de Amazon, que recientemente tuvo también similares problemas con su etiqueta Amazon’s Choice, el problema de la corrupción espontánea de los sistemas sociales en la web me resulta, como investigador, fascinante: en cuanto una métrica con base social, sean las valoraciones, los likes, los favoritos, los followers o cualquier otra, adquiere una cierta popularidad en la web, aparecen automáticamente esquemas destinados a obtener un beneficio falseándola y pervirtiéndola. En el momento en que una red o un esquema con base social alcanza un cierto nivel de popularidad, proliferan los servicios más o menos «clandestinos» destinados a vender en ella evaluaciones falsificadas, que parecen encontrar rápidamente interesados dispuestos a pagar por ellas, y que terminan, si no se toman acciones decididas, por destruir su propuesta de valor.

Para Amazon, en este momento, el problema es potencialmente muy importante: muchos usuarios se fían de las evaluaciones de los usuarios cuando adquieren un producto, sobre todo cuando hablamos de un mercado en el que casi siempre existen numerosas alternativas. Si se populariza la opinión de que esas evaluaciones no tienen ninguna base fiable y simplemente se compran y se venden al mejor postor, el usuario pierde una referencia importante en el proceso de compra, y pasa a desconfiar no de la compañía o del producto, sino de Amazon en su conjunto.

¿Cómo puede lucharse contra este tipo de esquemas? En este tipo de casos, me resisto a pensar que la compañía que gestiona el mercado no pueda hacer nada. Cuando gestionas un ecosistema como Amazon, detectar los patrones de evaluación llevados a cabo por un usuario es enormemente sencillo, como lo es el detectar, mediante patrones de browser fingerprinting, saber si ese usuario lleva a cabo ese tipo de actividad desde múltiples cuentas. A partir de ahí, excluir sumariamente a esos usuarios para elevar el riesgo asociado a la participación en ese tipo de esquemas debería ser inmediato si se quiere dar una respuesta seria al problema, además de denunciar y perseguir a los servicios que los ofrecen – que puede ser más complicado, pero que contribuye a elevar las barreras de entrada.

El problema suele provenir, en realidad, de los esquemas de growth hacking de las propias compañías implicadas, que suelen tener una enorme vocación cortoplacista: un mercado de valoraciones más activo suele verse como un indicador positivo, que en muchos casos arrastra mayor actividad, sea esta evaluada en términos de popularidad, actividad, tiempo de permanencia o ventas. En la práctica, pocas compañías tienden a plantearse el problema hasta que es demasiado tarde y se convierte en titulares de prensa que atacan su credibilidad.

El otro gran aliado de las compañías que de verdad se plantean hacer algo es el machine learning: los patrones de uso de los participantes en este tipo de esquemas suelen ser fáciles de reconocer algorítmicamente, porque su actividad se restringe precisamente a esas evaluaciones. De nuevo, quien está en una posición que le permite observar la totalidad de la actividad en el ecosistema como si estuviera en «modo dios» tiene siempre, por vasto y complejo que sea ese ecosistema, la posibilidad de actuar contra ese tipo de esquemas.

El patrón, en cualquier caso, es evidente, y podríamos incluso enunciarlo en forma de ley:

Cualquier sistema con base social experimenta, a partir de un determinado nivel de popularidad, una corrupción de su funcionamiento que tiende a destruir el valor de las métricas en él utilizadas.»

A partir de ahí, solo nos queda evaluar a las compañías que los experimentan en función de su capacidad para dar o no una respuesta rápida a ese tipo de esquemas, y reflexionar sobre la su eventual gravedad. Muchos años después de haberse conocido la existencia de esquemas como la compra de followers o de Likes en redes como Twitter, Facebook, Instagram o, más recientemente, TikTok, esos esquemas siguen en general disponibles para prácticamente cualquiera que quiera recurrir a ellos, a pesar de sus intentos por dejar de poner énfasis en su uso como métrica habitual, y se habla de que ese tipo de sistemas pueden ser los responsables en la creación de toda una «internet de la mentira«. Pero para las redes sociales implicadas, el problema es solo relativo: sus usuarios siguen acudiendo a ellas con un supuesto propósito fundamental, que es conectar con otras personas o con su información, y la fiabilidad de las métricas es un problema relativamente secundario.

En el caso de Amazon o de otros sitios transaccionales, la gravedad puede ser mayor, porque afectan a las ventas de productos de compañías que, en último término, pueden incluso verse obligadas a participar en ese tipo de prácticas si quieren ser competitivos en ese mercado, con los consiguientes perjuicios económicos directos. Para los usuarios, que acuden a ese servicio a adquirir un producto, el eventual perjuicio de una valoración falsa es muy superior, y puede llegar a destruir la confianza en el sitio en su conjunto.

De una manera u otra, el problema está identificado, y también sabemos a quién le toca mover ficha. Si dentro de unos años, obtener valoraciones falsas para un producto en Amazon sigue siendo igual de sencillo que como lo es ahora, el perjuicio para la compañía puede, seguramente, ser muy superior al que experimentaron redes sociales como Facebook, Twitter, Instagram o TikTok. Para Amazon, es tiempo de reaccionar.


This article was also published on Forbes, «The inevitable corruption of social systems on the web«


25 comentarios

  • #001
    sin censura - 7 septiembre 2020 - 18:38

    Lo mismo que ya pasó con Tripadvisor… O en su momento con la web trabajobasura. Que entraba la competencia a arruinar al que lo hacía bien.
    Si Amazon, tiene el aviso de ¿compra verificada? como pueden hacerles el truco, si tienes que estar en tu cuenta… No lo entiendo. Igual es que realmente cada vez dan peor servicio…

    • Evaluador - 7 septiembre 2020 - 21:56

      Lo compras con cupón descuento del 107%. Lo evaluas.
      Lo compras- lo evaluas – verifican 5*, fotos y comentarios- te ingresan en PayPal coste + comision.
      Lo compras- lo evaluas – lo devuelves – reembolso del 100%+comisión

      Todos «compra verificada»
      Todos posibles ahora mismo en Amazon.es

      • Sin censura - 8 septiembre 2020 - 10:41

        Pues entonces los que tienen un «chiringuito» montado es Amazon que lo solucionen, y que origine una falta de fiabilidad en uno de sus servicios, en este caso los comentarios…

        Gracias por mostrar como funcionan

  • #004
    Xaquín - 7 septiembre 2020 - 18:46

    No es por nada, pero te diré que estás hablando de la ley de la mafia : allí donde hay posibilidad de negocio, se montan las redes necesarias para extraerlo con el mínimo esfuerzo, y a pesar de algún que otro efecto colateral negativo (que van implícitos por la forma de «tomar medidas»). Suele llevar un epílogo donde de manifiesta la perfección del sistema, si se consigue complementar con negocios legales que darán la cobertura necesaria, sobre todo para limpieza de conciencias varias en el personal «legal» asociado (políticos, policía…).

    Claro que funciona en redes sociales, solo faltaría. Ademas en tales sitios se junta con la adicción al poder del famoseo y ya tenemos miles de «influenciadores» para dar y tomar (cuartos varios). Y una cantidad inmensa de seguidores, para recibir y seguir tomando (mierda barata!).

    En fin, que me parece bien el análisis, pero solo digo que non es algo «propio» de internet.

  • #005
    Lua65 - 7 septiembre 2020 - 19:36

    Las opiniones de Amazon, ya te digo que son un churro… como no sea que busques un producto «de marca» (y aun asi), por experiencia lo digo…

    Las de Tripadvisor merecen un libro o dos… XDDD

  • #006
    Javier Lux - 7 septiembre 2020 - 20:55

    Es ya una vieja historia aunque ahora más profesional y sofisticada que además trabaja en un campo mucho más grande que lo visto hasta hoy. Y me estoy refieriendo al viejo conocido: Fraude

    Las telecos llevan años luchando contra el fraude. Falso clientes con datos falsos que obtienen terminales o sims y se largan. Los emisores de tarjetas de de crédito o las empresas de crédito al consumo. Clientes falsos ha habido siempre. Solo que ahora hay más y su campo de acción es múcho más grande.

    ¿Solucion? Facil. Sistemas de Machine Learning y que los grandes perjudicados, Amazon, FB, TripAdvisor compartan información de falsos clientes o defraudadores (eMail, IPs..etc) en bases de datos gestionadas por terceros.

    La vieja historia de siempre. ¿un problema? alguien con la solución y que gane un poco de dinero

  • #007
    Javier - 7 septiembre 2020 - 21:50

    No logro encontrar el link de la noticia, pero hace un tiempo salió publicado que después de una revisión de rutina por uno de sus encargados, un sitio (…no sé si era Redit o alguno por el estilo…) descubrió que accidentalmente un usuario seguía participando de los comentarios, pero él, sin saberlo, por error había sido baneado de los mismos.

    Es decir, él publicaba y veía sus comentarios, pero los demás no. Y esa situación se prolongó creo que por varios meses o un par de años.

    Creo que la práctica se llama Shadow ban.

    No veo que impide tomar el mismo tipo de medida con las revisiones. Pero es que se puede procesar por lotes mediante (al principio) supervisión humana y que un algoritmo revise ese trabajo humano y aprenda, y después delegarle cada vez más trabajo al bendito algoritmo hasta que el porcentaje de fallos sea mínimo.

    • sin censura - 8 septiembre 2020 - 10:43

      El problema de esta práctica parece tan fácil como borrar las cookies y entrar a revisar la web de amazon

      O tener un segundo navegador que no permita cookies…

  • #009
    Evaluador - 7 septiembre 2020 - 21:59

    Y que os parece el sistema Amazon Vine? Si diesen más visibilidad de los evaluadores estos ganarían prestigio personal a la vez que sus evaluaciones podrían certificar productos y evaluaciones.

    • sin censura - 8 septiembre 2020 - 10:45

      En principio sería bueno conocer que los evaluadores son personas a sueldo de la empresa, para ignorarlos directamente…

      De todas formas, siempre me han parecido poco fiables comentarios de un servicio alojados en la misma web. Cómodo si, fiables no

  • #011
    Gorki - 7 septiembre 2020 - 22:26

    Creo que es inevitable desgraciadamente, El SEO de cualquier tipo, es algo que mueve mucho dinero en Internet y siempre habrá quien cree automáticamente granjas de bots imposibles de diferenciar informáticamente de personas de carne y hueso, por la actividad que tienen en la red, que se dediquen posteriormente al SEO..

    • Gorki - 8 septiembre 2020 - 01:28

      O a hundir a la competencia, o a ambas cosas a la vez.

      Lo hemos visto en Google. y al final lo que ha terminado haciendo Google es cobrar por ponerte delante y acabar con tanto engaño,. ( y a la vez hacer caja)

      • Unmanned - 14 septiembre 2020 - 12:44

        Pero eso ya existe en Amazon. Esiste el Amazon SEO, oagrandoles a ellos, claro…

  • #014
    JM - 8 septiembre 2020 - 00:02

    Personalmente lo que hago es fiarme de las valoraciones intermedias, es decir que si son de 1 a 5 estrellas me fijo más en las de 2, 3 y 4

  • #015
    Gorki - 8 septiembre 2020 - 01:32

    Ley de Dans y de la degradación de la métrica.

    «La fiabilidad de la métrica utilizada en Internet, disminuye con el cuadrado del número de usuarios que la tengan en cuenta»

    • sin censura - 8 septiembre 2020 - 10:47

      y de la fuente

      Si el que opina es parte del «chiringuito» pues es a la vez poco estético y menos fiable.

      Es como cuando vas por el barrio latino de Paris, y el de la puerta te dice:

      «español, aquí comer muy barato y muy bien»

  • #017
    Juan T. - 8 septiembre 2020 - 11:25

    Nada, Amazon contrata una empresa independiente de valoración de calidad de productos tipo OCU en la cual, los vendedores , de manera voluntaria, pueden hacer una valoración de sus productos, con posibilidad de hacer comparativas.

    De momento , el hecho de que el vendedor se atreva a hacer valorar su producto por una empresa así, ya diría mucho de la confianza que tiene en su producto.

    Y si no lo hace Amazon, buena oportunidad para hacerlo independientemente, que no sé para que tantos MBAs si no se ven oportunidades tan sencillas como estas :)

    • Gorki - 8 septiembre 2020 - 11:43

      ¿Tu te fías de la OCU?

    • sin censura - 8 septiembre 2020 - 11:58

      Esto está estudiado

      https://es.wikipedia.org/wiki/Teoría_de_la_decisión

      Hacer estudios no es gratis, tienen un coste, así la OCU te vendía su revista Compra Maestra con las comparaciones.

      Como ejemplo, que a Gorki le gustará, puedes elegir que «Procesador de Textos» comprar, podrás elegir sus características de acuerdo a una serie de requerimientos tuyos, curva de aprendizaje, donde más se usa, compatibilidad, uso en distintos OS, precio, etc.

      Seguramente, al final podrás llegar a Word y Libreoffice. Haces el ratio calidad/precio. Y resulta ganador «Libreoffice»… ¿Y por qué es líder el producto comercial? En una economía como la española ¿No sería más sencillo un sistema libre que ademas tiene un mantenimiento asegurado con empresas españolas?

      Si y entonces las comisiones… quien se las lleva…

      • Gorki - 8 septiembre 2020 - 16:30

        No me fio nada, es muy fácil, (y tentador), chantajear a los fabricantes.

        Directamente, los llamados críticos «sobrecogedores», o indirectamente si no me subvencionas el trabajo de la comparativa, no entras en la comparativa,

        • sin censura - 9 septiembre 2020 - 11:56

          Obviamente la ineptitud o la corrupción en asociaciones defensoras de los demás puede existir
          ¿Recuerdas al figura de Padilla, con Ausbank?

          También tenemos el fenómeno de la paradoja de la elección, que puede llevar a la parálisis por análisis.

          Hay otro fenómeno parecido (y que nadie se de por aludido) que es el amigo pesado que su coche es el mejor, que su móvil es el mejor, etc etc. Recuerdo en el siglo pasado (no era Tesla) que cuando se compró el coche no había otro igual, y conocía al mejor mecánico, barato y rápido. Hasta que a los 2 años, nuevecito, ese mecánico no sé que le hizo en el motor que se lo cargó. Era la versión 1.0 de los comentarios en web… ;-)

  • #022
    Olga - 8 septiembre 2020 - 11:54

    Algunas reseñas cantan nada más verlas:

    Ningún comprador en su sano juicio perdería media hora en hacer un «informe» completo con pelos y señales, fotos e incluso videos de un cacharro cualquiera de 10 euros. Algunas reseñas ocupan más espacio que artículos de análisis en webs especializadas.

    Otras se limitan a hacer un copy/paste de la descripción del propio artículo o del manual de usuario. ¿Qué estás aportando?

    Otras hacen hincapié en si el producto es «bonito», cuando lo importante es su funcionalidad y quizás no se coloque en lugar visible, o la competencia también utiliza el mismo diseño genérico. ¿Tiene sentido una reseña en la que se dice que es bonita una bujía de un coche? ¿O una tarjeta microSD?

    Reseñas en las que se valora con 5* un producto, para decir que ha llegado rápido y bien el paquete (enviado y vendido por Amazon). Si quieres valorar a Amazon, por que le pones 5* a un producto random de los miles que vende, y que casualmente hasta podría ser una mie…

    Valoraciones que cuentan una experiencia de uso que sólo se puede tener tras varios meses y el propio reseñista menciona una fecha de compra reciente.

    También llaman la atención productos genéricos que son todos iguales salvo la pegatina del fabricante, por ejemplo en esta época mascarillas o termómetros pistola sin contacto, un vendedor cientos de reseñas y otro infinitas menos(aunque igual de buenas quizás), para productos en los que la diferencia de precio puede ser de céntimos.

    En general sólo presto atención a pequeñas reseñas que aportan algún matiz concreto que no queda claro en la descripción, como avisar si no incluye manual en español, si un cable no tiene las dimensiones esperables, si existen recambios para algún componente, si no se incluyen pilas/baterías, robustez y calidad general al tenerlo en mano…etc. Reseñas de 1 párrafo que aportan valor, que puede hacer cualquiera en un momento con buena intención sin echar 1 hora escribiendo un ensayo sobre el producto.

    • Enrique - 8 septiembre 2020 - 12:52

      Lo mejor de Amazon, que creo que ninguna otra web tiene, es un buscador en los comentarios. Ahí puedes filtrar rápidamente los comentarios que te interesan leer.

  • #024
    Pedro Torres Asdrubal - 8 septiembre 2020 - 13:56

    En física lo llaman Principio de Incertidumbre de Heisenberg.

    En economía es el Lucas Critique y tambien la Ley de Goodhart, mi profesor de monetarismo en la LSE.

    Quienes no tienen mérito, se esfuerzan por tener estética, los «parecebuenos».

    Descubrir una mentira no es gratis, así que mentir es un estrategia rentable.

  • #025
    Miguel - 9 septiembre 2020 - 17:45

    Pues que te puedo decir Enrique, este tipo de comportamientos se ven en otras plataformas… Así son las cosas desde hace un buen tiempo.

Dejar un Comentario

Los comentarios están cerrados