Sanciones que no solucionan nada

Facebook account disabledMi columna en El Español de esta semana se titula “Problemas sin precedentes” (pdf), e intenta hacer algo de didáctica acerca del impresionante reto tecnológico que supone para una compañía como Facebook gestionar una red con más de dos mil millones de personas, un tercio de la población mundial, que pasan en sus páginas una media de cincuenta minutos cada día consumiendo y creando todo tipo de contenido, y cuyas acciones es preciso controlar para evitar determinados comportamientos considerados nocivos.

Una entrevista con el director de seguridad de la compañía, Alex Stamos, revela que la red social elimina cada día una media de un millón de cuentas por infringir sus políticas de uso, por motivos con motivación económica como spam, fraudes o estafas, pero también por razones relacionadas con la exaltación del odio, la incitación a la violencia, las amenazas, el acoso, etc.

Eliminar un millón de cuentas al día implica, lógicamente, tener que revisar muchísimas cuentas más, con una combinación de herramientas algorítmicas y manuales que supone un reto tecnológico para el que no existen precedentes. Cuando leemos que Facebook se plantea fichar a miles de personas para supervisar contenido, podemos intentar hacernos una idea de la magnitud de la tarea y de lo que supone, teniendo en cuenta que la supervisión manual no es más que una parte de la solución. De hecho, el principal problema no es ya establecer una determinada política o criterio de seguridad, sino diseñar los retos técnicos que supone la supervisión de la misma. Imaginemos lo que supone patrullar una red en la que, cada día, un millón de cuentas son deshabilitadas por todo tipo de motivos: obviamente, se cometen errores tanto de tipo 1, o falsos positivos, como de tipo 2, o falsos negativos, que la compañía intenta lógicamente reducir en la medida de lo posible. Cada vez que la compañía identifica como violenta y elimina una cuenta que juraba venganza contra un mosquito, por ejemplo, se arriesga a situaciones que van desde la simple burla al escándalo o a las acusaciones de censura injustificada, y a tener que invertir valiosas horas en supervisión manual y revisión de casos individuales.

Mientras la compañía, como otras empresas con problemas similares como Google o Twitter, intenta avanzar en la resolución de este tipo de cuestiones, resulta que llegan una serie de políticos en Alemania que, en su supina ignorancia, no llegan ni remotamente a hacerse a la idea de lo que supone una tarea como esta, y deciden que como en las redes sociales hay en ocasiones mensajes de exaltación al odio, hay que hacer algo rápidamente. Y por supuesto, sus soluciones son, simplemente, “soluciones de político”: deciden convertir el hecho en delito penal e imponer una multa impresionante, 50,000 euros, a las redes sociales que no eliminen esos mensajes con la debida prontitud. La medida es una prueba clara de cuánto de profunda puede llegar a ser la ineptitud y la ignorancia de los políticos: como las redes sociales, debido a una escala y nivel de adopción sin precedentes en la historia, están teniendo algunos episodios aislados de divulgación del discurso del odio, vienen los políticos de turno y deciden que se les impongan multas. Y todavía creerán que han resuelto el problema.

¿Qué efecto genera una ley tan estúpida como esa, promulgada por absolutos ignorantes tecnológicos incapaces de imaginar lo que implica la tarea que tan alegremente demandan? Que Facebook ahora pasa de tener un problema que conllevaba el ridículo público, a tener otro que conlleva responsabilidades penales y enormes multas. En consecuencia, la compañía se ve obligada a escalar rápidamente sus esfuerzos en la supervisión de cuentas, a cerrar más cuentas, y a que los errores, lógicamente, se incrementen en consecuencia. Para arreglar un problema que se solucionaba simplemente dando tiempo a las compañías a que desarrollasen mejores sistemas y a que ideasen otros protocolos, se genera otro problema mayor: que ahora haya más cuentas que son cerradas incorrectamente por cuestiones como sátira, humor, ironía o simplemente exposición lícita de posturas políticas en las que se mencionan determinadas palabras.

En realidad, los mensajes de odio en las redes sociales son cada vez más un problema menos importante, porque la mejora progresiva de los sistemas de denuncia colectiva tienden a hacer que esas cuentas sean eliminadas de manera razonablemente rápida. El exceso de celo de los políticos de turno, en realidad, no era necesario. Pero ahora, a cambio, tendremos redes que censuran más, de manera más habitual y con más errores. Todo un gran logro: gracias por protegernos tanto.

Líbrenos dios de políticos ignorantes con buenas intenciones, que de los que las tienen malas ya procuraré librarme yo…

 

 

 

This post is also available in English in my Medium page, “God save us from meddling politicians!” 

 

17 comentarios

  • #001
    Angel - 1 septiembre 2017 - 10:27

    Líbranos Dios, líbranos…

  • #002
    Krigan - 1 septiembre 2017 - 11:35

    Mi medida estúpida “favorita” es la directiva de la UE que obliga a las webs a notificar que usan cookies. Casi todas las webs las usan desde que se inventaron en los años 90, y todos los navegadores tienen una opción para desactivarlas desde que se inventaron. Casi ningún usuario las desactiva por la sencilla razón de que las cookies sirven para conservar información de estado, y por tanto hay un enorme montón de funcionalidad de las webs que depende de ellas.

    Pero llegan los legisladores de la UE, y obligan a las webs a notificar que las usan, que viene a ser como obligar a los camareros a notificar que las bebidas alcohólicas llevan alcohol. El resultado es que cada vez que visitas una web nueva te salta el puto mensajito, si cambias de navegador te salta también en las webs que ya has visitado anteriormente, y si desactivas las cookies en el navegador te saltará en todas las webs, por mucho que las hayas visitado anteriormente con ese mismo navegador.

    Vamos, un spam masivo que venimos sufriendo desde hace años, y lo que nos falta. Parece ser que los legisladores que aprobaron esta medida no navegan nunca, y por tanto a ellos no les molesta.

    • JJ - 2 septiembre 2017 - 13:45

      Por eso, por lo del mensajito, uso bastante Brave.

  • #004
    Gorki - 1 septiembre 2017 - 12:25

    Sigo sin entender bien el problema. Se supone que yo recibo en mi TL dos tipos de textos. Unos procedentes de mis amigos/conocidos a los que voluntariamente sigo y de los amigos/conocidos a los que ellos voluntariamente siguen y otros textos que me envía Facebook por razones publicitarias , monetarias o de marketing que esos si yo no puedo filtrar ni impedir que lleguen a mi cuenta.

    A los textos y contenidos del primer grupo yo los puedo borrar, además puedo eliminar el “amigo” que envió el contenido de mi lista e incluso puedo bloquear selectivamente a la personas que mi “amigo” sigue, y que a mi me resulta especialmente molesta..

    Creo por tanto que la panoplia de armas que me ha provisto Facebook es amplia y aun podría darme alguna mas, como eliminar los mensajes que tengan alguna palabra, que a mi no me agrade, por ejemplo en mi caso “caca”, “culo; y “pis” junto a las de “politica”, “religión” y “sexo”

    Queda el segundo grupo, que son los textos que me manda Facebook que no puedo evitar recibir por ser publicitarios o de marketing de su empresa, Bien, en mi opinión, estos si son responsabilidad de Facebook y si manda en ellos mensajes xenofobos, de incitació a cualquier tipo de vicios y excesos, etc, esa será su culpa, en la misma Medida que El Corte Ingles en sus anuncios .pusiera tal tipo de cosas. Para eso están las denuncias que todos podemos poner ante la policía e incluso las que de oficio pueda hacer algún fiscal.

    De los anteriores tipos de mensaje deberían tener el tratamiento de menajes privados, como puedan ser los emails, por mucho que no vayan con “sobre cerrado” y si a mi me gusta recibir cosas politicamenete incorrectas como chistes sobre judíos, o sobre señoras gordas, o colecciono imagenes pedófilas, insignias fascistas o cualquier cosa por el estilo, que pese a ser relaciones entre personas privadas, según mi entender, no es adecuada en una Democracia la censura previa, sino el control policial que de lugar a juicios en un tribunal ante un juez que decidirá lo que estein¡me conveniente,

  • #005
    JJ - 1 septiembre 2017 - 15:28

    Dudo que Facebook tenga dos mil millones de usuarios reales. Yo, por ejemplo, tengo unas doce cuentas que he ido creando a lo largo de los años y la verdad es que no uso casi ninguna. Pero seguro que ellos las contabilizan como doce usuarios diferentes.

    En cuanto a perseguir a FB por no saber o poder controlar los excesos no me parece del todo mal. Ellos tienen una gran responsabilidad que deben asumir. Y si para ello tienen que contratar a cincuenta mil personas mas, que lo hagan.

    El problema que veo con una multa de 50 mil € es que los enemigos de FB, que los tendrá, podrían hacerse con los datos de unos cuantos usuarios, digamos un 1% del total, unos dos millones, y mediante un algoritmo creado al efecto, generar dos millones de multas, lo que daría una cifra de 100 mil millones. Y para FB algo así podría convertirse en un gran problema.

    • Garepubaro - 1 septiembre 2017 - 21:59

      “… Yo, por ejemplo, tengo unas doce cuentas que he ido creando…” … si si, menudo bolo de mierda va a ser Facebook en nada de tiempo, teniendo en cuenta que los ninos ni quieren tener cuenta, es cosa de los “impresionados por el invento de internet” osea gente de todo el mundo hoy con mas de 40, cientos de millones de jubiletas… la explosion de la burbuja 3.0 va a dejar en pequena toda anterior … y la constancia de la irrelevancia y destruccion de estructuras posibles, de internet excepto para los tres billonarios claro ..

      • Gorki - 2 septiembre 2017 - 10:13

        Lo que dices, es semejante a decir que el mundo, es una mierda porque también hay muchos niños y jubilatas..
        Facebook y el mundo. son una mierda si te acompañas de gente de mierda, y es inteligente si te acompañas de gente inteligente.

        Aunque tu no lo sepas, en Facebook no te obligan a seguir a nadie, tonto o listo, que no quieras seguir, a diferencia de los Blogs donde tienes que soportar la compañía de cualquier carca que quiera participar.

        • Garepubaro - 2 septiembre 2017 - 12:54

          Yo simplemente dije que Facebook envejece y se acabara y los niños como no se estan apuntando pues se acabo Facebook, ahora todavia va tardar

          • Enrique Dans - 2 septiembre 2017 - 12:58

            Los niños están todos en Instagram y en WhatsApp. Que son de… ¡SORPRESA!! ¡Facebook!! :-)

    • Krigan - 2 septiembre 2017 - 10:50

      Son los usuarios activos mensuales de junio. Es decir, que entraron en Facebook al menos una vez en junio. En ese mes, el promedio diario fue de 1.320 millones, una de cada 5 personas del planeta.

    • Enrique Dans - 2 septiembre 2017 - 11:43

      No. Facebook contabiliza dos cosas, Monthly Active Users (MAU) y Daily Active Users (DAU). Si no has entrado en tus doce cuentas todos los días o al menos una vez al mes, no figuras en los números de Facebook, aunque no elimine esas cuentas salvo que se lo solicites expresamente. Simplemente las considera inactivas y no las cuenta. La idea de que los números de Facebook son falsos está curiosamente muy arraigada entre quienes no conocen en detalle la forma en la que se elaboran las métricas, pero es falsa.

      • Gorki - 2 septiembre 2017 - 13:16

        Los números de visitas, ni son falsos ni ciertos son números estadísticos y marcan tendencias, No se puede Uno no puede saber por qué entro un señor en una pagina, hay miles de motivos, desde el interés, al puro error al pinchar un icono. Ni se puede saber que hizo en ella, hay quien la lee y quien la cubre con solapa abierta.

        Pero estadísticamente si la media de visitas aumenta, es que tienes éxito y si disminuye es que pierdes interés. Y de alguna forma eso se refleja en el impacto publicitario de tu página, a mas visitas mas efecto tiene el anuncio, Lo único que hace falta es que la métrica utilizada para todas las páginas sea homogénea y yo mucho me temo, que hay métricas no comparables en Internet,

        • JJ - 2 septiembre 2017 - 15:29

          Gorki, se puede suponer que Facebook ha exagerado sus métricas en mas de una ocasión. Y es normal, es lo que siempre han hecho las cadenas de televisión para cobrar mas por los anuncios.

          Pero además, en el mundo hay unos 3600 millones de personas con acceso a Internet. Y hay unos 750 millones de chinos que no conectan en FB. Nos quedan 2850 millones de usuarios potenciales, de los que FB dice tener 2000. No me lo creo, y menos en estos últimos años en que la gente se ha ido a las mensajerías del tipo WhatsApp y a Instagram. Y luego están los twitteros que no entran en FB, etc, etc.

      • JJ - 2 septiembre 2017 - 13:44

        ¿Dónde puedo comprobar de manera fehaciente que los usuarios que declara Facebook con los reales?

        Me siguen llegando sus notificaciones al correo en cuentas que no uso y a las que no entro hace años.

  • #015
    Cristina - 1 septiembre 2017 - 17:45

    Evitar poner un tablón de normas, como en la película de Orwell en la granja, y tratar de incluir criterios un poco menos diplomáticos pero sí más respetuosos, seria razonable en la politica de uso.
    Hay comentarios que son muy ofensivos, amenazantes y los analizas en situaciones tensas. El odio es lo más contagioso. Habilitaría mecanismos que hicieran eficientes las prioridades. Núcleos de sucesos (Barcelona, Alemania..) Focos habituales en círculos de amigos.. El proveedor de servicios, de oficio, opera para retirar contenidos? Porque si bien espera la denuncia y tiene un máximo de una semana en caso de contenido dudoso, debiera por seguridad prevenir y alertar de focos comunes cuando son amenazantes, constantes y expansivos? Se borran y no se facilita el proceso de investigación de focos radicales? Se multa a la red social por desidia, por falta de prevencion o por falta de diligencia en la gestión? Que es contenido manifiestamente ilegal? Criterios definidos, alertas de núcleos, prevencion de expansion y alerta de puntos de inicio. Analizar uno por uno, puede limitar la libertad de expresión, pero prevenir palabras clave y habilitar botones de ayuda para prevenir el odio, puede ayudar a cumplir criterios de protección. Es la policía la que debe hacer seguimiento de estos delitos, puede un proveedor de servicios colaborar con la justicia? O debe hacer de policía extralimitando sus “competencias”? Las multas son desproporcionadas en relacion al nivel de denuncias? Como se bloquea la expansion de un comentario que incita al odio?

  • #016
    Antonio Gregorio - 2 septiembre 2017 - 14:09

    Siempre pueden copiar de China…

  • #017
    José Enrique - 2 septiembre 2017 - 19:01

    Aunque aburra, yo sigo a lo mío.

    Digamos que los medios “tradicionales” tenía como misión (visión) el proporcionar a los lectores-oyentes-televidentes contenidos; principalmente con el objetivo de información o de entretenimiento.

    Cada uno de ellos presentaba (presenta) una temática diferente; y aún compatiéndola, un enfoque o un punto de vista distinto del resto de las demás.

    Esto lo podían hacer porque eran productoras de sus propios contenidos; o compraban contenidos producidos por terceros de acuerdo con esa temática, enfoque y/o punto de vista.

    El Modelo de Negocio que sostenía todo esto era segmentar la audiencia: aquellos lectores-oyentes-televidentes interesados en esa temática en concreto y que se sientan “identificados” con ese particular enfoque o punto de vista; y “vender” ese subconjunto del público como “target” publicitario.

    ¿Qué hacen los nuevos “medios” sociales?

    Facebook (y también twitter, instagram, youtube, pinterest…) no generan esos contenidos sino que proporcionan una herramienta a los usuarios con los que “subir” esos contenidos a la red; por supuesto, todos ellos con su particular temática, enfoque y punto de vista.

    Los medios sociales “segmentan” los contenidos de acuerdo con lo anterior para acertar con el subconjunto de usuarios a los que prevén que pueden interesarles.

    El Modelo de Negocio es el mismo, prácticamente; dejando de lado el hecho de ahorrarse la producción. “Venden” lo mismo y tienen muchísimos más lecttores-oyentes-televidentes porque tienen contenidos “casi” para cualquier perfil.

    Esto lo hacen bien o mal… eso no seré yo quien lo juzgue. Los números que comentáis más arriba ya lo hacen por mí.

    Pero OjO..!

    La Ley lo dice bien claro y la responsabilidad no está en la producción del contenido (propia en los medios tradicionales y de los usuarios en los medios sociales) sino en su difusión…

    Si la Ley alemana dice que son 50.000€ y pena de cárcel porque a un lector-oyente-telespectador le aparezca en su lectura, programa de radio, televisión, página de web, blog, muro de facebook… algo que puede ser entendido como una apología del nacionalsocialismo (o cualquier otra cosa)… pues es así. Da igual que seas facebook, Radio Führer o Yihäd TV… LA LEY ES LA MISMA PARA TODOS.

    Pese a lo que se dice y lo que se deja de decir, el derecho a la libre opinión y a la libre expresión “cobija” al creador del contenido; no al medio. El medio puede esconderse debajo de esos derechos en el caso de que ese contenido sea producción propia (je suis Charlie) pero el otro “derecho” implicado, el Derecho a la Información, no cubre al medio que difunde contenidos que se puedan considerar “graves” o lesivos para terceras personas.

    Curiosamente, en este caso el “medio” lo que ofrece es cargarse al que sube el contenido… y que sí: dentro de las “condiciones” que tú aceptas para formar parte de la red está muy clarito lo puedes y lo que no puedes poner.

    Pero la responsabilidad del contenido que aparece en la pantalla de tu móvil es de Facebook… y por mucho que tú seas un neonazi skin-head hay cosas que en la pantalla de tu móvil NO pueden salir.

Dejar un Comentario

Los comentarios están cerrados