El problema de la tecnología

Caïn (by Henri Vidal, Jardin des Tuileries, Paris) La tecnología define contextos. El contexto en que vivimos está, desde todos los puntos de vista, afectado y condicionado de una manera fundamental por la tecnología que nos rodea, y así ha sido desde los orígenes: el desarrollo de la tecnología que permitió dominar el fuego modificó el contexto en que vivían los hombres de su tiempo y afectó poderosamente a su civilización.

El hecho de ser capaces de gestionar algo que hasta ese momento se consideraba simplemente un fenómeno natural, que surgía espontáneamente y sin control alguno – supuestamente por algún tipo de «intervención divina» utilizada para explicar lo inexplicable –  posibilitó infinidad de usos importantísimos y beneficiosos, como la capacidad de calentarse o de cocinar los alimentos, que afectaron de manera radical y enormemente positiva a las condiciones de vida. Pero obviamente, surgieron rápidamente quienes vieron la posibilidad de utilizar la tecnología como un instrumento para el mal, para aprovecharse de ella, para obtener beneficios personales o para imponerse a otros. A lo largo de la Historia, ambos usos convivieron, aunque algunos fueron, progresivamente, objeto de control: en las sociedades modernas, utilizar el fuego para determinados usos no está permitido, y la ley castiga esos usos entendiendo que aquellos que recurren a ellos no pueden vivir libremente en sociedad. Los incendiarios, los que usan el fuego como arma o los que destruyen propiedades con él son detenidos y pagan sus penas recluidos en la cárcel o, si su trastorno es mental, en las instituciones adecuadas.

Para llegar a ese consenso social, han tenido que pasar muchos años desde que la tecnología fue desarrollada. Largos años en los que la sociedad fue interiorizando el uso de esa tecnología, alcanzando a comprender sus posibilidades, en los que esa tecnología fue probándose valiosa para dar origen a nuevos usos, a nuevos negocios, y también, por supuesto, acabando con algunos otros. De ser algo restringido prácticamente al control del brujo de la tribu, el fuego se simplificó hasta el punto de obtenerse simplemente deslizando un dedo sobre la ruedecilla de un mechero, y a lo largo de ese continuo, también fue normativizándose cada vez más, poniéndose bajo control a medida que la sociedad consensuaba sus usos y los ponía bajo el prisma de la convivencia.

Ese mismo camino, de una manera o de otra, es recorrido por todas las tecnologías. Con mayor o menor velocidad, en función de la importancia de la tecnología, de lo radical de sus efectos, del grado de consenso que genere su aceptación. La tecnología que en su momento se inventó para que los participantes en un entorno determinado compartiesen su comunicación y sus relaciones, aquellas redes sociales que se iniciaron con apariencia superficial en campuses universitarios o que se dedicaban simplemente a compartir información personal, hoy son enormes plataformas que acomodan toda la comunicación humana, en donde miles de millones de personas se relacionan y informan, y todo ello cuando hace tan solo unos pocos años las veían como algo completamente prescindible, cuyo uso debía prohibirse en entornos profesionales, o como un entorno sencillamente frívolo. La tecnología ha avanzado hasta extremos increíbles, pero la interiorización de su uso y sus posibilidades a nivel de consenso social aún dista mucho de haber alcanzado la madurez. De hecho, hoy conviven en la misma sociedad personas que ni se acercan a una red social y la consideran algo completamente prescindible, con otras que las ven casi como la razón de muchos de sus comportamientos, junto con un amplio continuo que ven a unos o a otros como trogloditas o como completa e irremisiblemente alienados.

Las redes sociales poseen muchos aspectos positivos. Su capacidad de democratizar las herramientas de publicación ha cambiado la sociedad en la que vivimos en un tiempo récord, ha permitido que determinados países acabasen con regímenes tiránicos que tenían a los medios de comunicación bajo control – no entro en la evolución posterior de esos eventos – y ha posibilitado que los mapas mediáticos que conocimos durante décadas se hayan redefinido dramáticamente. Pero a medida que ese tipo de usos se han desarrollado, también han aparecido otros usos. A medida que las cabeceras convencionales dejaban de servir como garantía, algunos aprovecharon la difusión que las plataformas sociales podían ofrecerles para difundir noticias falsas, para fines que van desde lo económico hasta lo político, o combinaciones lineales de ambos.

Mark Zuckerberg's death (Ned Newhouse, ‏@Ned_Newhouse, on Twitter)Si interrumpimos la redacción de esta entrada para lamentar la prematura muerte, a los treinta y dos años, del creador de Facebook, Mark Zuckerberg, debido a complicaciones cardiovasculares, seguramente todos sabremos ya a qué nos referimos. Después de todo, devorar kilos y kilos de carne de delfines aún vivos no podía ser una práctica saludable. El hecho de que la propia entrada en la que Mark Zuckerberg anuncia el pronto desarrollo de medidas para luchar contra la desinformación y la circulación de noticias falsas en Facebook apareciese, para muchos usuarios, flanqueada por una noticia falsa que anunciaba la supuesta muerte de Hugh Hefner para tratar de vender productos para la disfunción eréctil proporciona una clara medida de cómo de serio se ha vuelto el problema.

El estudio de BuzzFeed que demuestra que la circulación de noticias falsas en Facebook contra la campaña de Hillary Clinton supero por mucho a la circulación de noticias genuinas no resulta sorprendente: hemos visto cosas similares en elecciones en otros países anteriormente, y si no se hace nada por evitarlo, las seguiremos viendo, con cada vez más profusión. La pérdida de las referencias de fiabilidad – en parte por la inadaptación de los medios convencionales y en parte por su propia caída en desgracia y su venta a intereses de todo tipo – se ha visto acompañada de la aparición de un nuevo medio, las redes sociales, con un supuesto espíritu de «plataforma neutral», con un ambiguo sistema de valores, amorfo y vagamente definido, que no ofrece garantía alguna y que, en ausencia de otros controles, alimenta a cada uno con aquello que quiere creer, con la creencia que quiere reforzar, con la cámara de resonancia social que necesitaba para justificar sus ideas – por absurdas o salvajes que puedan ser.

Luchar contra la difusión de noticias falsas como si no lo fueran – no contra la sátira, el humor del color que sea o contra la libertad de expresión – empieza, en primer lugar, por entender que es algo necesario. Mientras un porcentaje significativo de la población vea Facebook como una plataforma en la que debe vale todo y en la que eliminar cualquier cosa sea sinónimo de censura, será muy difícil hacer nada que obtenga un cierto consenso social. Además, será preciso combinar medios y sistemas que van desde lo social – peer-review, reporting, métricas sociales de prestigio, etc. – hasta lo tecnológico – machine learning para el reconocimiento de patrones de difusión viral, comprobación contra bases de datos, procesamiento de lenguaje natural, etc. – y que tendrá necesariamente, al menos por el momento, que llegar a la supervisión final de las personas.

No va a ser fácil, y sabemos perfectamente que los que explotan ese tipo de debilidades de la tecnología tienen incentivos sobrados para intentar moverse más rápido que las medidas adoptadas. Pero es preciso hacer algo, porque nos enfrentamos a eso, a un mal uso de la tecnología diseñado para atentar contra la sociedad, para corromper la democracia o para manipular con fines que rara vez podrán ser considerados lícitos. Si las redes sociales se convierten en el nuevo canal de distribución de noticias, habrá que conseguir dotarlas de mecanismos de control similares – o preferentemente, incluso mejores, que para eso le llamamos «avance tecnológico» – a los que teníamos con los canales anteriores. Y ojo: la prensa nunca fue capaz de evitar la creación y difusión de noticias falsas, pero sí las confinó a ámbitos, como los tabloides sensacionalistas, en los que su naturaleza aparecía razonablemente clara. Seguramente, la solución vaya por ahí, por etiquetar las noticias con indicaciones claras que indican su nivel de credibilidad, en castigar a las publicaciones reincidentes con clasificaciones bajas que impidan una difusión masiva, o con crear sistemas de karma que dejen claro la naturaleza de lo que nos encontramos en nuestros muros. En este momento, no lo olvidemos, las noticias falsas no solo no son castigadas, sino que son de hecho premiadas, incentivadas con más seguidores, más likes y más viralidad. Cambiar eso depende no solo de las redes sociales y de sus gestores: depende de todos. Pero al final, las redes tendrán que seguir dando basura al que realmente quiera consumir basura, pero al menos tendrán cierta obligación de indicarle la naturaleza de aquello que consume.

El anuncio filo-nazi aparecido en Twitter o las noticias falsas en Facebook son simplemente un síntoma de algo más amplio: la aparición de personas dispuestas a aprovechar las debilidades de canales prácticamente recién creados, y cuyos sistemas de defensa ante determinadas actuaciones no estaban desarrollados aún. Es el momento de empezar a desarrollarlos.

 

 

 

This article is also available in English in my Medium page, “The inherent problem with technology…» 

 

13 comentarios

  • #001
    Juan Navidad - 20 noviembre 2016 - 21:19

    Desde hace días, Enrique llevas adscribiéndote a la campaña que se ha desarrollado para tratar de justificar lo que ha pasado con las elecciones presidenciales estadounidenses. Parece ser que el titular que se nos quiere vender y que demasiada gente compra es que Trump ha ganado la presidencia gracias a Facebook.

    Independientemente de que haya habido cierta ayuda, yo no creo que ni por asomo haya sido tan decisiva por varias razones. La primera, porque Hillary no necesitaba noticias falsas para desacreditarse, porque lo ha hecho ella sola desde hace décadas. Segundo, porque un porcentaje muy cercano al 50% del electorado demócrata le «vio el plumero» con todas las trampas que ella utilizó para derrotar a Bernie Sanders. La tercera es que a la gente que apoyó a Sanders y no iba a votar por ella se unió la gran cantidad de posibles votantes demócratas que no estaban especialmente animados para ir a votar porque ella no les resultaba atractiva ni movilizadora. La cuarta es que Hillary ha sido la candidata del «establishment», lo cual significa que muchos votantes de izquierdas no la querían como presidenta porque significaba más de lo mismo. La quinta es que la campaña de Hillary en los medios tradicionales dándose por ganadora ha sido tan abrumadora en los días previos a la jornada electoral que también ha contribuído a desmovilizar a sus posibles y ya de por sí desmovilizados votantes. Y la sexta razón es que otra de sus fallidas etiquetas era ser la candidata de la continuidad, siendo Obama el presidente que prometió tanto y por detrás cometió toda clase de barbaridades (la fallida ley sanitaria, que es una concesión a los grandes grupos sanitarios privados, los casi tres millones de deportados hispanos en sus ocho años de mandato, sus guerras mal conducidas o sus drones matando población civil, con un presupuesto militar de 600000 millones al año que hipoteca las cuentas públicas).

    Quien prefiera pensar que Trump ha ganado únicamente o mayoritariamente por la ayuda de Facebook es libre de hacerlo, pero siendo un candidato terrible, no es menos cierto que la otra opción era también aterradora por ejemplo, para muchos de mis amigos/as y votantes que aquel martes electoral tenían que decidir si votar por ella, por las opciones minoritarias o quedase en casa. En fin, veamos qué viene después en este momento histórico singular que nos ha tocado vivir…

    • Gorki - 20 noviembre 2016 - 21:58

      Esmuy triste y a mi me fastidia, pero Trump ha ganado porque ha dicho lo que una parte muy importante de la poblacion USA queria oir decir a su Presidente:
      — Frontera con Mexico,
      — Aranceles que defiendan la industria americana,
      — Fuera los mahometanos
      __ Hamos USA grande otra vez

      Seran frases vacías que no se pueden llevar a la práctica, pero son las que quierian oir. Buscar otyras culpas es absurdo.

      • Juan Manuel - 21 noviembre 2016 - 10:48

        Lo que siempre me llama la atención es que la gente se sorprenda de que un político cumple cosas que no se puedan realizar.

        Si es contrario a la ideología: se le clasifica de mentiroso/manipulador/populista

        Si es de ideología afín: excusas de herencia recibida/crisis/agentes externos/mercados/financiación

        La cuestión es que ha ganado en unas elecciones democráticas (con las ventajas y defectos que este sistema conlleva)

        Si ha mentido o exagerado o a soltado rumores en campaña sobre los rivales… nada nuevo bajo el sol.

    • Adrián - 20 noviembre 2016 - 22:31

      Yo lo único que tengo claro es que los medios están compradísimos. Y en EEUU es aún más obvio.

  • #005
    Gorki - 20 noviembre 2016 - 21:50

    Yo debo tener un Twitter y un Facebook diferente al de los demás, no porque no me llegue basura como a los demás , sino porque esa basura me llega firmada, se quien es el que la manda.

    A mi TL llega montones de basura, en forma de vídeos de gatitos, de «frases trascendentes» y cosas mas delicadas como regimenes para adelgazar, o lo maligna que es la Coca Cola o Amancio Ortega y por qué no, de noticias tendenciosas o claramente falsas, pero todas tiene un remitente, y o bien se lo aguanto, o bien, cuando se pasan, les quito de mi lista de seguidos.

    Claro está, que Facebook me envía también anuncios patrocinados de personas y entidades a los que no sigo, pero hasta ahora es publicidad con las exageraciones que todos aceptamos que diga su vendedor sobre un producto .

    Es cierto que algunas veces me llegan remitidos por otros noticias de El Mundo Tuday y cierto es que a veces y durante un tiempo, me las he tragado como ciertas, porque al fin y al cabo cosas mas raras se han visto que lo que cuentan, pero el engaño dura lo suficiente para sacarte un sonrisa. También seguía antes a Norcoreano, que se hacia pasar por Kim Jong-un, pero sus trolas, (muy graciosas), no pueden considerarse noticias falsas, sino mas bien humorismo.

    ¿Cómo puede ser que te manden un noticia falsa.y claramente tendenciosa deliberadamente alguien que conoces?, Al menos mis amigos digitales no me hacen esto, y desde luego de llegarles a ellos no las re enviarían.

    Si circulan esas noticias es porque quien las recibe, la noticia le da por el palo del gusto y está deseoso de creerlas y se las envía a quien espera que también las acoja con cariño, Pero yo dudo que ese tipo de noticias convenzan más que a los ya convencidos.

    La mierda, no es anónima, tiene un remitente, y se puede seguir hasta quien la introdujo en la red. si hay que pedir cuentas por ella no será a la red, sino a quien la introduce y ese debe rendir cuentas de sus actos ante la ley, no ante un censor.

    • Goomer - 21 noviembre 2016 - 00:57

      Totalmente de acuerdo Gorki. No por mucho repetirlo va a ser verdad. Informarse por FB significa hacerlo por los medios que se sigan, y como mucho y con el valor estadístico que se le quiera dar, sacar una idea de cómo piensa la gente. FB no hace circular noticias falsas, sino que nuestros contactos comparten noticias, algunas de las cuales son falsas. Y ante esto, ¿queremos que FB censure a nuestros contactos o a los medios que hemos decidido seguir cuando comparten algo que FB piense que no es verdad? ¿Nos hemos vuelto todos locos? Ante este problema, que es real, no necesitamos que venga alguien a censurarnos por nuestro bien, sino que la respuesta es la de casi siempre. Educación y pedagogía. Yo en mi modesto rincón de FB muchas veces soy el pesado que rectifica a mis contactos cuando comparten cosas sin pies ni cabeza. Hay que tomarse la molestia, quedar igual mal, pero si sabemos que algo no es verdad, es nuestra responsabilidad. Otra cosa es que en temas políticos ya haga tiempo que me cansé de ir de Quijote…

  • #007
    Krigan - 20 noviembre 2016 - 23:11

    Lo siento, pero niego la mayor. La manipulación en la prensa, noticias falsas incluidas, nunca estuvo confinada a los tabloides, sino que siempre se practicó y se sigue practicando en los periódicos considerados serios.

    Los ejemplos son tan numerosos que darían para escribir no solo un libro, sino toda una enciclopedia. Como norma general, la prensa no está para informar, sino para intoxicar, y además algo así como el 80% de los ciudadanos desean y buscan que se les intoxique con manipulaciones y mentiras que encajen con los prejuicios de cada uno.

    Por tanto, tanto para la prensa como para las redes sociales, la pregunta es: ¿qué es mejor? ¿La barra libre de mentiras y otras manipulaciones? ¿O que un supuesto algoritmo (tras el cual siempre hay personas) nos diga qué es la verdad y censure lo clasificado como «falso»?

    Si la cosa va a consistir en que algunos, muy bondadosamente y por nuestro bien, van a crear filtros (muy avanzados, por supuesto), voy a querer que esos filtros sean opcionales, que yo decida si quiero tal o cual filtro. De lo contrario, prefiero la barra libre de embustes de toda la vida, y hacer yo mis propios filtros y valoraciones, como hasta ahora.

    • Gorki - 21 noviembre 2016 - 11:31

      Como norma general, la prensa no está para informar, sino para intoxicar, y además algo así como el 80% de los ciudadanos desean y buscan que se les intoxique con manipulaciones y mentiras que encajen con los prejuicios de cada uno.

      Estoy de acuerdo, cuando uno compra el ABC espera que pongan al Koletas a parir, y cundo compra(ba) el «El Pais», que pongam a Rajoy. No hay engaño. o al menos el engaño es consentido.

  • #009
    Garepubaro - 21 noviembre 2016 - 02:10

    Cuando vino Facebook mas o menos generalizado ya para el 2010, pues era mas bien una red social, la gente ponia sus fotos personales, y curiosamente, a muchos no le importaba en esos principios hablar cosas hasta intimas con los amigos, aun ya sabiendo que cualquiera podia ver la conversacion.

    Pero como en internet, todo son como rayas en el agua, lo fundamental osea que sea personal, eso va desapareciendo, y ya no es red personal, ahora se va transformando en otra cosa como el cordero ese que nace con seis patas y dos cabezas y no saben lo que van a hacer con el, es un blog publico cruzado? como una página web compartida ? un foro de vulgaridades chistes, opiniones superficiales ? una multicosa web o yo que se

    Personalmente tengo cien músicos a los que todavia ni he escuchado ninguno desde hace 6 años nunca, amigos que cuando los veo por la calle les tengo que decir que no me hablen por Facebook porque no quiero que otros se enteren de otras cuestiones y actividades …. Unos dando todo el dia la tabarra con el PP y otros con Podemos

    Y la razon de ser son unas personas que conozco por internet desde el siglo pasado, por anteriores foros, listas de correo, algunos emitian fanzines de papel 1994 etc y con estas personas llevo «chateando» eso 20 años sin saber demasiado de su vida real, aunque si los he llegado a conocer personalmente y lo curioso que la conversacion fue de los mismos temas, no personales, que hablamos por internet, 20 años da para mucho, para que alguno entre ellos se haya casado tenga hijos y ya divorciado … cosas mas tristes como que alguno ha enfermado de esclerosis y por ese motivo esta todo el dia en Facebook, etc

    En conclusion cuando Facebook llegue a los dos mil millones de «usuarios maduros», veo una patata caliente, un MULTILIO DESCOMUNAL, con problemas como que la gente se pasa el dia compartiendo trolas queriendo y sin querer, perritos de Youtebe, y ahi se quedara sin saber ni poder nada que hacer y se ira perdiendo en una deriva, a pesar de los buenos resultados que dicen que tiene eso se les acabara, y se ira la empresa transformado en la mayor burbuja y problema que se haya visto de viabilidad de una empresa en la Historia, osea como la ruina de MySpace y tantas, pero a lo bestia

  • #010
    Benji - 21 noviembre 2016 - 08:09

    He leido en este blog y en 100 más la teoría de que esas herramientas, una vez creadas, se podrían abusar, usar para censurar lo políticamente incorrecto o para evitar incomodidades a los gobernantes. Total, solo está a un click de distancia.
    ¿Qué ha cambiado para que de repente ahora sea imprescindible disponer de esos mecanismos?

    También predigo algo: Si facebook y twitter empiezan a censurar o coartar… se creará otra plataforma sin ningún mecanismo, una snap-web o similar. Y la gente irá allí a leer, informarse, insultarse, quejarse… Forocoches es un buen ejemplo de sitio casi sin censura donde la gente dice y hace lo que quiere. Para ellos, facebook no es problema.

    Y ya que estamos Enrique, ya que estás horrorizado con Trump, ¿Por qué no estás horrorizado con Clinton? Tú has vivido ahí y sabes lo ue se cuece. ¿No te parece peor que en EE.UU el 90% de los medios hayan dado su apoyo a una candidata? ¡Soraya sueña con medios así de vendidos! ¿No es eso más grave que el resultado?

  • #011
    Jordi - 21 noviembre 2016 - 12:19

    Como siempre el problema está en la base. Si consideramos como iguales a los medios tradicionales, los blogs de periodistas profesionales y las redes sociales y les damos el mismo nivel de credibilidad, la información en su conjunto pierde credibilidad. Una información falsa publicada por un niño de 10 años o un gabinete de Trolls, no puede valorarse igual que una información proporcionada por un periodista con 20 años de experiencia.

    • marcelo - 21 noviembre 2016 - 13:11

      como Pedro J Ramírez?

  • #013
    JOSE ANTONIO GAES - 22 noviembre 2016 - 16:31

    Como con «el problema de las drogas», mal empezamos.

    Comparar la explosión de las TICs con tecnologías anteriores me parece un sinsentido. Basta imaginar un minuto cómo puede haber sido «el despliegue y la adopción» del fuego en sus contextos de tiempo y lugar, y compararlo con lo que actualmente vivimos para darse cuenta de ello.

    «Un fenómeno natural que surgía espontáneamente y sin control alguno» solía ser precisamente nuestra atención. Y le es aplicable todo lo que sigue en el segundo párrafo.

    Antes de la economía de la atención, el hipertexto, cambió para siempre la textura de los procesos sociales.

    Esta «ausencia de contexto» que han traído consigo las TICs está modificando radicalmente la forma en que aprendemos y actuamos. Si, puede que las tecnologías anteriores definiesen contextos pero esta modifica radicalmente el propio concepto de contexto.

    Se me antoja imposible vislumbrar algo parecido a la «madurez» como consenso social, si es que tal cosa existe aún o existió alguna vez, con respecto al uso de estas tecnologías.

Dejar un Comentario

Los comentarios están cerrados