Facebook y la neutralidad: personas frente a algoritmos

Facebook like and unlikeAdemás de mi artículo de hace un par de días sobre Facebook y las líneas editoriales, que seguía a uno anterior sobre el mismo tema y trataba de poner en contexto las recientes revelaciones lanzadas por Gizmodo sobre la implicación y el sesgo generado por los editores de los trending topics de Facebook, decidí dedicar a la misma temática tanto mi participación en la barra tecnológica de La Noche en 24 horas (en la página del programa, a partir del minuto 1:38:15), como mi columna en El Español, titulada “Facebook y la política“.

Muy poco tiempo después de haber entregado mi columna, The Guardian publicó una noticia basada en una filtración de documentos internos de la compañía en la que demostraban cómo los trending topics de Facebook eran, en realidad, producto de una editorialización humana, no de algoritmos, lo que, según el diario, situaba a la compañía al mismo nivel que cualquier medio tradicional en lo tocante al desarrollo de su línea editorial. La respuesta de Facebook ha sido, en primer lugar, negar la mayor y afirmar que los documentos en posesión de The Guardian responden a una operativa antigua de determinación de los trending topics que ya no se desarrolla así, así como una nota de Mark Zuckerberg negando la editorialización, afirmando la neutralidad y la voluntad de corregir cualquier posible sesgo que se haya generado por intervención de los editores, una entrada detallada de Justin Osofsky sobre cómo se generan los trending topics, y una invitación abierta a políticos conservadores  – supuestamente los afectados por el presunto sesgo editorial de la plataforma – para hablar del tema.

La secuencia de acontecimientos deja clara la gravedad del caso: en cuatro días, tres notas oficiales aclaratorias de la compañía incluyendo una de su fundador, infinidad de artículos sobre el tema, y hasta un requerimiento para comparecer ante el Senado de los Estados Unidos, o la inmediata reacción de la subsidiaria española enviándome información sobre el tema en cuanto me vieron en televisión comentándolo (gracias, Lola :-) La editorialización de Facebook es indudablemente un tema relevante: que la red en la que 1,600 millones de personas en todo el mundo se informan y leen noticias – porque el componente más “frívolo” de qué han hecho mis amigos, si han subido fotos o si hay que felicitar a alguien ha pasado claramente a segundo plano – decida tratar de influenciar cómo votamos o cómo nos sentimos es algo potencialmente muy grave, aunque la Primera Enmienda de la Constitución de los Estados Unidos defienda teóricamente su derecho a hacerlo si lo estima oportuno. Todo indica que lo que en un periódico, en una emisora de radio o en un canal de televisión nos parece perfectamente aceptable – o que incluso se convierte en la razón para escoger informarnos ahí – en una red social nos sobra. Por lo que parece desprenderse de las reacciones al respecto de este tema, queremos que en una red social, el sesgo venga de nosotros mismos, de lo que compartimos allí y de lo que comparten aquellos a los que decidimos seguir, pero preferimos que la herramienta no nos filtre nada en función del suyo.

Pero además, de la discusión surge una disyuntiva interesante, y es el concepto de línea editorial y de neutralidad explicado en función de quién la determina, si editores humanos o procesos algorítmicos. Generar unos trending topic que proporcionen a los usuarios información sobre el contenido más relevante o más comentado en una red social es relativamente sencillo (en concepto, no en su desarrollo): en teoría, o bien creas unos algoritmos que, con la potencia semántica adecuada, extraen esos temas y los publican en una lista, o dejas esa labor a editores humanos, o bien optas por un sistema mixto en el que los algoritmos extraen y los humanos hacen un filtrado más detallado que evite errores, duplicidades o manipulaciones. Las cosas, obviamente, no son tan sencillas en la práctica: para Twitter, por ejemplo, que opta por la vía más algorítmica, resulta un problema importante luchar contra las alegaciones de manipulación que suelen provenir del hecho de que la permanencia en los trending topics no depende de las menciones de un tema, sino del valor del incremento de las mismas. Eso genera una aparente disonancia: si se está hablando muchísimo de un tema, pero se habla más o menos lo mismo o menos que en las horas anteriores, ese tema tiende a desaparecer de los trending topics, a pesar de que los usuarios aún pueden estar viéndolo como objeto de una presencia muy prominente. Por otro lado, la no presencia de una editorialización humana tiene sus límites, y Twitter sí se ha visto obligada a eliminar trending topics de la lista cuando, por ejemplo, contienen términos que puedan interpretarse como incitación al odio, a la violencia, al racismo, etc.

En el caso de Facebook, el hecho de que originalmente se recurriese a editores humanos y se haya dado cada vez más un protagonismo mayor al algoritmo parece que se interpreta como una capacidad de sesgo menor. Tendemos a asumir que los editores humanos tienen un problema de sesgo imposible de eliminar: una línea editorial, en efecto, no tiene por qué estar definida como tal, como posición oficial sometida a unas directrices específicas. En ocasiones, la línea editorial y el sesgo provienen simplemente de un clima político determinado en la organización – que puede originarse en algunos grupos de personas con más ascendente, o en el propio líder o fundador – o en cuestiones como los matices que se apliquen, por ejemplo, en la incorporación de talento.

En efecto, los humanos tendemos a tener sesgos, y además, en ocasiones, ni siquiera somos completamente conscientes de ellos. Sin embargo, me parece muy peligroso asumir que unos trending topics queden automáticamente “libres de pecado” por proceder de un supuestamente inmaculado algoritmo. Un algoritmo no es algo mágico, sino u conjunto de normas marcadas por aquellos que lo programaron. Por tanto, afirmar que tal o cual compañía no editorializa “porque su selección de temas proviene directamente del algoritmo” no es algo como tal significativo, salvo que podamos ver perfectamente cómo funciona el algoritmo – algo que habitualmente no se puede hacer, porque ello facilitaría la tarea a aquellos que aspiran a manipularlo. Pero un algoritmo no es como tal un santo, no garantiza la inexistencia de sesgos, y no evita que alguien introduzca en él un componente de línea editorial si quiere hacerlo. A medida, además, que los algoritmos emerjan más de “cajas negras” determinadas por un análisis de casuísticas y resultados anteriores procesados mediante metodologías de machine learning, será preciso entender que su condición de máquina no implica necesariamente nada en términos de imparcialidad o ausencia de sesgo.

Una discusión que me resulta fascinante. Pero para Facebook, un problema serio, que podría llegar a determinar una crisis de reputación que llevase a que muchas personas se encontrasen incómodas utilizándola. De ahí la prontitud de las reacciones, y la disposición a aclarar todo lo que se pueda aclarar en ese sentido con quien haga falta. Si Facebook quiere, com la mujer del César, además de ser decente, parecerlo, va a tener que esforzarse mucho.

 

This article is also available in English in my Medium page, “Facebook and neutrality: people versus algorithms

 

23 comentarios

  • #001
    Pablo Martínez-Almeida - 13 mayo 2016 - 14:02

    Con tanto tráfico, el contenido se está concentrando cada vez más en Facebook, lo que a su vez le genera tráfico adicional. Facebook es una plataforma que proporciona buenos tiempos de carga y ofrece la posibilidad de gestionar los comentarios, un quebradero de cabeza para la mayoría de medios.

    Tal como lo veo Facebook se está haciendo tan grande que va camino de convertirse en una especie de capa por encima de la web.

    Si este crecimiento continúa y la gente empieza a identificar Facebook con internet, es lícito discutir si puede ser un medio más (con su línea editorial) o debería limitarse a servir noticias de acuerdo a métricas objetivas.

    Debido a su gran éxito Facebook podría enfrentarse en no mucho tiempo a solicitudes de división de la compañía.

  • #002
    Asier - 13 mayo 2016 - 14:12

    Partiendo de que no existe un procedimiento bien definido que garantice la neutralidad e imparcialidad, estamos hablando de un problema irresoluble, siempre habrá quien no le guste alguno de los criterios aplicados para seleccionar tal o cual información. Los buscadores se enfrentan al mismo problema. Lo ideal me parece un algoritmo público pero robusto frente a intentos de manipulación.

  • #003
    Gorki - 13 mayo 2016 - 14:22

    Estoy de acuerdo contigo, los “algoritmos” pueden producir sesgo igual que los editores humanos y prueba de ello. que algunos bots se han tenido que parar, porque habían salido claramente racistas y xenofibos http://www.bbc.com/mundo/noticias/2016/03/160325_tecnologia_microsoft_tay_bot_adolescente_inteligencia_artificial_racista_xenofoba_lb

    El problema es que no hay forma de saber si una “editorializacion mecánica” tiene sesgo, o es el humano que la juzga quien lo tiene.

    Sigo penando, que no me gusta nada que Facebook se encargue de “hacerme llegar” lo que considera adecuado y “ocultarme” lo que considera inadecuado. Sea lo que sea. lo que Facebook considera adecuado, incluso si coincide con mi forma de ver la vida, no ne gusta que lo editorialice.

    No quiero “adoctrinamiento” venga de donde venga, si ademas pienso que est0y en un medio neutral.

  • #004
    VGS tecnologías web - 13 mayo 2016 - 14:23

    Interesantísimo debate del que rescato que el ser humano tiene sesgos por su propia naturaleza y que los algoritmos, son efectivamente creados por una serie de pautas que tienen su origen en el ser humano (recordemos, sesgado). El tema es complicado para Facebook y cauteloso para los usuarios, sin duda.

  • #005
    Jose Antonio Garcia - 13 mayo 2016 - 15:36

    En la única neutralidad que cree Facebook es en la misma que cree Suiza. Así que puestos a comentar a una persona prefiero a alguien con opinión

    http://www.genbeta.com/actualidad/richard-stallman-llama-a-acabar-con-facebook-para-proteger-la-privacidad-y-la-democracia

    • Gorki - 13 mayo 2016 - 17:04

      Indudablemente Stallman hizo algo grande hace nucho tiempo y hay que agradecérselo, pero desde entonces, que decidió no hacer mas que vivir de su nombre, viajar por el mundo con su colchón, de evento en evento anatemizando algo conocido. Es una sombra de lo que fue.

      • José Antonio García - 13 mayo 2016 - 18:05

        Gracias Gorki por comentar sobre Stallman

        Básicamente puedo estar de acuerdo contigo al 95%, su trabajo es impresionante, como liderando una comunidad GNU pudieron hacer tantas cosas, aunque ahora le pueda pasar lo que a los deportistas llegan a un máximo de su carrera y no consiguen las metas que antes lograban, algo parecido pasa en I+D, etc o como dices simplemente se tansforman en vendedores de lo que una vez fueron.

        Curiosamente nadie puede atribuirle problemas de censura, ataques a la privacidad, dominio de mercado, etc

        ¿Que vive de dar conferencias? Pecado venial frente a lo que estamos hablando.

        Si entramos en eventos estilo Retina, por ejemplo, o vienen a vender sus productos o a lucirse como pavos… seguro que es más importante un robotijo, unas gafas con 2 lupas que le llaman realidad virtual, exoesqueletos a 100mil, pajaritos para escribir mensajitos,… etc ( que no me parece mal)

        Pero comparando los mensajes por ahora me quedo con el de Stalmann

        • Enrique Dans - 13 mayo 2016 - 18:19

          Sí, vale. Y es un raro, y un extravagante, y un paranoico, y lo que queramos. Pero es un GENIO. Con mayúsculas. Una de esas personas que cambia el mundo. Y solo por eso, se le perdona TODO. Ya podíamos tener unos cuantos más como él…

          • Juan Navidad - 13 mayo 2016 - 19:13

            Es un genio, cierto, Enrique. pero creo que el problema del mundo no es de talento. Estoy seguro de que hay decenas de RMS con tanto talento como él incluso en España. Conozco programadores capaces de magia increíble y sorprendente. El problema de España y del mundo es lo horriblemente mal que está gestionado el talento…

          • Gorki - 13 mayo 2016 - 19:48

            Fue un genio, nadie lo duda, pero hay que remotarse al siglo pasado para hablar de lo que hizo.

          • Pablo Martínez-Almeida - 13 mayo 2016 - 20:43

            Coincido con Juan Navidad.

            El mundo está sobrado de talento. El mundo tiene muchos retos por delante. Uno de los desafíos más grandes, quizá el mayor, es la asignación eficiente del talento disponible. Y es especialmente importante porque es lo que nos permitirá encarar los problemas presentes y futuros con mayores probabilidades de éxito.

          • mhyst - 13 mayo 2016 - 22:24

            Y además es un tío accesible. Cualquiera le escribe un email y contesta, por más absurdo que pueda ser el contenido (como algún correo mío). Yo pienso que sigue defendiendo el software libre como el que más. Y en su web está al día de todos los problemas que ve en el mundo. Yo le admiro. Ojalá que hubiera más como él.

          • Perico Palotes - 14 mayo 2016 - 02:12

            También debe perdonarsele el sacrilegio en que incurrió al afirmar eso de que “tenemos que derrotar a Uber, por nuestra libertad y privacidad” ???

          • Krigan - 14 mayo 2016 - 17:30

            Gorki:

            Fue uno de los líderes que se levantó contra las patentes de software. Gracias a gente como él no las tenemos en la UE. Y eso fue en este siglo.

            Las licencias que él redactó (la GPL y la LGPL) siguen usándose en toda clase de programas, incluido el kernel Linux, y por tanto siguen afectando a toda clase de aparatos que tenemos en nuestros hogares: router, móvil, tablet, smartTV, etc.

            No estoy de acuerdo en todo lo que dice, pero cuando Stallman habla, yo escucho. Siempre dice algo interesante.

          • Gorki - 15 mayo 2016 - 13:36

            cuando Stallman habla, yo escucho. Siempre dice algo interesante. ¿Por ejemplo esto que indican más arriba? http://www.genbeta.com/actualidad/richard-stallman-llama-a-acabar-con-facebook-para-proteger-la-privacidad-y-la-democracia

          • Enrique Dans - 15 mayo 2016 - 16:20

            A eso ya he contestado, Gorki. La inteligencia crítica consiste en ser capaz de admirar el intelecto de alguien sin tomar necesariamente como una verdad religiosa y absoluta todo aquello que diga. Stallman puede decir muchas cosas con las que yo no esté necesariamente de acuerdo, pero lo seguiré admirando en función de otras que dijo y que considero que cambiaron el mundo.

  • #017
    mhyst - 14 mayo 2016 - 19:46

    Perico Palotes:

    Antes de hablar considerando a Uber una empresa sagrada, deberías leer lo que dice Stallman sobre ella. Quizá cambiarías de opinión.

    • Perico Palotes - 15 mayo 2016 - 03:08

      Mhyst:

      Creo que leiste mal o no interpretaste bien mi comentario.

      No considero a UBER una empresa ‘sagrada’, sino precisamente todo lo contrario, pues independientemente de los méritos que le puedan corresponder por ‘inventar esa app’, creo que son unos caraduras de tomo y lomo que se lo pretenden llevar calentito con su Uber-Pop (aunque en España y en otros varios países y grandes ciudades lo tienen crudo, al menos a corto plazo).

      Y…. por supuesto, ya había leído y releído lo que en varias ocasiones dijo Richard Stallman sobre dicha empresa, y lo suscribo de cabo a rabo. De ahí mi comentario-pregunta al autor del blog y a los demás tertulianos uberianos que consideran sacrílego, y casi blasfemo, ‘hablar mal’ del dios uber.

      Como el autor del blog dijo que a Stallman se le perdona TODO porque es un GENIO con mayúsculas, simplemente pregunté si en ese TODO también va incluído el ‘perdón’ por afirmar que “tenemos que derrotar a Uber, por nuestra libertad y privacidad”, que es, exactamente, lo que afirma el aquí por todos admirado Stallman.

      … y se hizo ‘mutis por el foro’….

      • Enrique Dans - 15 mayo 2016 - 10:53

        No hice mutis por ningún foro, simplemente estaba de cumpleaños y pasé el día con amigos sin acercarme al teclado :-) A ver, por partes: por mí, Stallman puede decir lo que quiera, y SIEMPRE lo tendré en consideración porque estamos hablando de un genio, de una persona con unas ideas interesantes hable de lo que hable. Dicho esto, no soy religioso y nadie es infalible, ni el papa, ni Stallman, ni nadie. Si pretendemos hacer caso riguroso de todo lo que Stallman dice, haremos tantas tonterías y tan peligrosas como las que hacen los católicos o los islamistas radicales pretendiendo interpretar al pie de la letra lo que dice la biblia o el corán.

        Sobre Uber: nunca la he considerado sagrada, porque repito, no soy religioso en absoluto, más bien todo lo contrario. Nunca los he visto como”caraduras”, porque creo que han planteado un sistema en el que aportan valor y cobran por ello una cantidad justa y adecuada, simplemente cuestionando si la ley que gobernaba esa actividad está desfasada (cosa con la que estoy plenamente de acuerdo) y solo sirve para beneficiar a unos pocos creando una escasez artificial. Dicho esto, si sus prácticas de explotación de datos resultan, como opina Stallman, ser inadecuadas, habrá que controlarlas como se hace con otras compañías, simplemente. Repito, las ideas de Stallman, aunque sean radicales, siempre son interesantes. Pero por el momento, prefiero vivir en una ciudad en la que Uber funciona a hacerlo en una en la que no le dejan funcionar…

        • Perico Palotes - 16 mayo 2016 - 15:33

          Pues…. feliz cumpleaños, aunque sea con 24 horas de retraso!.

          Yo también preferiría vivir en una ciudad o en un país en la que Uber funcione pero…. cumpliendo las reglas y leyes de mi ciudad y de mi país, las presentes o las que vengan, promulgadas en interés de la ciudadanía en general y no en la de una empresa en particular, especialmente si se trata de una empresa dispuesta a ‘llevarselo calentito’ sin asumir los costes fiscales, laborales y sociales que necesariamente asumimos, y debemos asumir, las demás personas y empresas en una ciudad y en un país civilizado.

  • #021
    makertan - 15 mayo 2016 - 11:51

    Muy de acuerdo con esto Enrique, todos sabemos lo malo de los medios pero tenemos claro cuáles son sus sesgos. Sin embargo facebook puede CAMBIAR un gobierno sólo con servir la información adecuada para desestabilizar a un rival, puede cambiar pensamientos de mucha gente, y este algoritmo por muy no-humano que sea, no está carente de ser manipulado ya sea por el propio facebook (imaginemos que ahora facebook deba justificar recoger más datos – para ellos y para el propio gobierno – ocurriría lo siguiente: noticias relacionadas con terrorismo, falta de seguridad, alertas… ganarían relevancia en el algoritmo y se harían virales)
    El tema de los TT en Twitter no hace más que demostrar que los algoritmos tienen un sesgo importante: Haces una lista de 200 amigos con intereses similares a los tuyos, acuerdas una hora y pones un hashtag. Si todos publican algo con ese hashtag eres tendencia y puedes ser TT. Si eso no es un sesgo mayúsculo…no se que lo será y esto bien lo saben los activistas políticos de ciertos partidos…
    Un saludo.

  • #022
    yolanda cediel - 18 mayo 2016 - 18:35

    Yo creo que una red social que nació en una universidad como herramienta para el cotilleo, no puede prescindir de la manipulación humana por mucho que lo digan, ya que la propia esencia de la red es esa, la manipulación.

  • #023
    Abel Caballero - 21 mayo 2016 - 00:45

    Más sobre este tema:

    https://medium.com/@glennbeck/what-disturbed-me-about-the-facebook-meeting-3bbe0b96b87f#.2dyt0e7hr

    Facebook organizó una reunión con los conservadores a propósito del revuelo causado. Interesante lectura de lo que comenta un conservador sobre la reunión.

Dejar un Comentario

Los comentarios están cerrados