Los algoritmos como religión

The algorithmic age - Pew Research CenterLa publicación de un informe de Pew Research Center titulado Code-dependent: pros and cons of the algorithm age (pdf), en el que incluye la opinión de 1,300 expertos en tecnología, académicos, directivos y líderes políticos sobre el futuro de los algoritmos y su impacto en la sociedad me da oportunidad de volver a comentar un tema al que vuelvo de manera recurrente: la creciente importancia de los algoritmos y la necesidad de entender su diseño, su funcionamiento y sus implicaciones de todo tipo.

Cada vez más, es un algoritmo en permanente evolución el que decide los resultados que vemos cuando buscamos, las noticias que aparecen ante nuestros ojos cuando nos informamos en unas redes sociales convertidas en medios de comunicación, los productos que nos son ofrecidos en un supermercado virtual, y con quién podemos acostarnos en una página de contactos.

El informe, de 85 páginas y plagado de citas, ofrece puntos de vista verdaderamente interesantes para cualquiera: los algoritmos no solo van a extenderse a cada vez más ámbitos y regular cada vez más acciones que hacemos todos los días, sino que tienen la capacidad de hacer que nos relajemos en cada vez más de esas tareas, que las confiemos cada vez más a unos sistemas cuyos resultados mejoran a medida que los alimentamos con más datos. Algoritmos capaces de adquirir sesgos, de generar divisiones o de incrementar las existentes en función de criterios que deben ser supervisados éticamente, y que incrementan la necesidad de desarrollos transparentes y de desarrollar una cultura y una formación que lleve a una mayor comprensión de su funcionamiento.

Algoritmos originalmente diseñados con las ideas de personas que simplemente pretendían llevar a cabo alguna tarea de manera eficiente y que generase una ventaja competitiva sobre la manera tradicional de llevarla a cabo, crear un motor de búsqueda, una red social, una tienda o un servicio de contactos mejor que los que había, pero que progresivamente pasan a responder al procesamiento masivo de acciones de los usuarios en formas que, cada día más, responden a un mecanismo de caja negra, que afectan a nuestra s acciones de maneras insospechadas. Pásate una temporada haciendo clic en resultados de búsqueda que reflejen una inclinación política determinada, y pueden encontrarte con que el buscador te construye una burbuja a tu medida que condiciona tu visión del mundo y reduce tu exposición a ideas plurales… en una manera similar, pero en absoluto idéntica, a lo que ocurría cuando tomabas la decisión de leer tal periódico o ver tal cadena de televisión.

En el fondo, siempre hemos estado dominados por algoritmos: las religiones, que forman una parte inseparable de la historia de la humanidad y que aún gobiernan porciones significativas de los hábitos y la existencia de millones de personas, no son más que un conjunto de algoritmos diseñados para regular unas conductas determinadas. Ahora, muchas de esas conductas, en lugar de regularse por lo que supuestamente alguien escribió hace muchos años en un libro sagrado, se regulan por los cálculos de una máquina en función de nuestras acciones y las de otros. Cuando hablamos de los algoritmos como los nuevos dioses, no vamos tan desencaminados.

Estamos en un momento interesantísimo, en el que reuniones de expertos dan lugar a declaraciones de principios éticos, a presentación de informes de situación y a alimentar ideas sobre lo que nos puede traer el futuro si proyectamos lo que esté surgiendo hacia el infinito y más allá. Un momento fundacional, con infinidad de actores y barreras de entrada cada vez más bajas, preparadas para que aquellos con ideas interesantes puedan elaborar sobre nuevas herramientas. Pero también un momento que evidencia la necesidad de prepararse, de aprender, de entender las implicaciones de lo que viene. O programas, o serás programado. O intentas entender los algoritmos y sus consecuencias, o renunciarás a una parte importante del libre albedrío, a una parte consustancial de la naturaleza humana.

No, no se trata de aprender a programar. O mejor dicho, no se trata solo de aprender a programar. Se trata de algo que va mucho más allá. De implicaciones éticas fundamentales, de fundamentos y cimientos asentados en las humanidades, en la filosofía, en la experiencia de miles de años de civilización humana y en la perspectiva suficiente para entender hacia donde nos estamos dirigiendo. Sin eso, nos limitaremos a dejarnos llevar.

 

 

This post is also available in English in my Medium page, “Algorithms: the new religion?

 

16 comentarios

  • #001
    Gorki - 12 Febrero 2017 - 17:32

    ¡Pero como se te ha podido pasar siendo de ciencias!, Algoritmo no es mas que un conjunto de reglas que hay que seguir para efectuar una tarea. Hay algoritmos desde tiempo inmemorial. Algoritmo es una palabra árabe, que da nombre a algo que los matemáticos indios hacían desde no se sabe cuanto y que a través de los árabes paso a la cultura greco romana, que utilizaba otros para sumar y multiplicar menos adecuados. En el siglo XV co aligual que ahora en el GO, hubo un enfrencamiento entre “calculistas” que utilizaban en las operaciones números romanos y “cálculos” (piedrecitas) y los alagoritmicos , que utilizaban los números árabicos y los “algoritmos” sobre papel y pluma de tinta y ya lo ganaron los “algorimicos” . Por tanto los algoritmos no son de ahora.

    Cuando te refieres a los “algoritmos” no te refieres a algoritmos como el de dividir, que llevan invariable siglos, sino algoritmos que se retroalimentan con los resultados que obtienen y en funcion de ello y de acuerdo con otros “algoritmos internos” cambian su forma de actuar dando resultados que pretenden ser más perfectos.

    El problema de estos algoritmos, es que son de tal complejidad, se pierde la “trazabilidad” de como se produce el resultado, lo que hace que el resultado sea inesperado y por ello “relativamente mágico” si ademas de ello los algoritmos se protegen con el secreto industrial reforzado con patentes, comienza a ser el resultado, absolutamente “misterioso” y como todo lo misterioso en ciencia, cáe en la 3º Ley de Clark “Cualquier tecnología lo suficientemente avanzada es indistinguible de la magia

    Ahora bien, el que sea indistinguible de la magia, no quiere decir que sea magia, ni religión, No tengo problema en que asuntos cruciales sean decidido por un algoritmo, pues indudablemente, un buen algoritmo tiene mucha mas fiablidad que una decisión humana, pero evidentemente es necesario establecer un completo panel de datos de prueba, para pasarlos periódicamente y estar seguro que estos “algoritmos evolutivos” .no pierdan su buen funcionamiento porque como todo sobre lo que se pierde el control los resultados pueden ser sorprendentes a poco que “evolucionen”

    Quiero recordad aquí el último experimento de un bot de Microsoft, que hubo de ser retirado de la circulación inmediatamente, porque en poco tiempo se transformó en racista.. Si en vez de hacerlo el bot de Microsoft en pocos días, lo fuera el buscador de Google y hubiera evolucionado milimetricamente a lo largo de los años que tiene de vida, posiblemente no nos habríamos dado cuanta, Ese es el riesgo, cundo pensamos en colocar un “algoritmo evolutivo” en el puesto de juez, o de medico cirujano.

    • Daniel Terán - 12 Febrero 2017 - 19:22

      Cuando hablamos de esto, siempre me viene a la cabeza el ejemplo del Ojo de Halcón en el tenis. Cuando un jugador lo solicita:

      A) El realizador automáticamente evita repetir la jugada de acción real.
      B) El juez sentencia lo que le dice el algoritmo.

      Pero no hay forma de comprobar si el algoritmo acierta siempre o nos está tomando el pelo. Nos lo tenemos que creer a pies juntillas porque no nos ponen la repetición.

      Esto es un ejemplo sencillo pues se trata de una decisión binaria: entra o no. Pero me pregunto si en ese futuro gobernado por algoritmos nos encontraremos con más situaciones de este estilo y confiar en decisiones que, como dice usted, no se pueden tracear.

    • Martin - 13 Febrero 2017 - 00:50

      En primer lugar “el secreto industrial reforzado con patentes” no existe. (Te lo digo, por propia experiencia, ya que me costó dos años aprender a patentar el procedimiento en que se basa DedoCar.es).
      Cuando tú inventas algo, tienes dos opciones:
      .- O bien mantienes la fórmula de la CocaCola en secreto y haces negocios para siempre.
      .-O bien lo patentas en cada uno de los países donde lo creas conveniente; en cuyo caso te dan el derecho exclusivo de explotar tu invento durante 20 años, a cambio de que publiques en la descripción de la patente cómo se hace, con tal grado de detalle que, pasado este tiempo, cualquiera pueda hacerlo igual que tú.
      Además, los algoritmos o los programas de ordenador no se pueden patentar. Como mucho puedes patentar la serie de pasos de un procedimiento para hacer algo que tenga aplicación industrial. Otra cosa es que luego esos pasos los realice un ordenador ejecutando un código de acuerdo con ese procedimiento.
      Y en eso (y no en discusiones filosóficas) andamos algunos: Haciendo un “Blablacar urbano” que sirva para moverse por la ciudad todos los días. Aprendiendo a programar una app que encuentre los pasajeros que puede llevar un coche en sus asientos libres, mientras el conductor va de camino al trabajo; para que ambos se ahorren un dinero, y entre todos evitemos los atascos de tráfico y la contaminación de las ciudades.
      Puede parecer magia, pero tan solo serán algoritmos que faciliten una movilidad más eficiente gracias a la colaboración ciudadana.
      ¿Algo que reprochar?

      • Gorki - 13 Febrero 2017 - 09:19

        Me das la razon, hay secretos industriales, y pones un ejemplo, la formun la de la Cocacola, y yo pongo como ejemplos de algoritmos protegidos con secreto industrial, el de Google para las búsquedas, el de Amazon para las prescripciones de libros, y el de Facebook para repartir la publicidad, Pero ademas hay patentes que impiden el copiar un proceso industrial sea el hacer un medicamento, o la forma de realizar una búsqueda Si para realizar el proceso utilizas un chip que es de tu diseño, puedes impedir que otro lo desarrolle. Por ejemplo la forma como Google empaqueta los procesadores baratos que hacen la búsqueda, esta patentada. Sin copiar su sistema s de empaquetamiento compacto, es muy difícil crear máquinas eficientes capaces de mover la cantidad de datos que mueven ellas.a la velocidad que ellos lo hacen.
        La teoría está ahíi, hacer “cluster de procesadores”, es la practica lo que lo dificulta.

      • batch4j - 13 Febrero 2017 - 16:31

        No se pueden patentar en Espña en USA si y por eso vamos atrasados y estamos en desventaja.

        • Krigan - 13 Febrero 2017 - 20:08

          No se pueden patentar en la UE, incluidos países tan avanzados como Alemania, Gran Bretaña, Suecia, etc. España ya estaba más atrasada que USA antes de que existiesen los ordenadores y sus programas.

          En USA las patentes de soft no han sido nada más que fuente de litigios, sin aportar ninguna ventaja. Ni MS ni ninguna otra gran empresa de soft USA ha basado nunca su ventaja competitiva en las patentes de soft, sino en los derechos de autor.

          La BSA (organización liderada por MS) no persigue a quienes violan derechos de patente en USA, persigue a quienes violan derechos de autor en todo el planeta.

          ¿Podría usted citarme una sola patente de MS que afecte a su intérprete de Basic? ¿Al MS-DOS? ¿Al Office? ¿A las versiones de Windows 3.x con las que MS conquistó el escritorio? No hay ninguna.

          Y si hablamos de Linux, que lo ha conquistado todo salvo el escritorio, más de lo mismo: ninguna patente.

    • menestro - 13 Febrero 2017 - 10:39

      El algoritmo de Google es público y conocido, y está perfectamente documentado, desde todos los ámbitos, incluidos los académicos. Casi se remonta a 1873.

      Estar ‘patentado’ lo hace aún más transparente, y todas la modificaciones, cientos de ellas todos los años, como el algoritmo Panda o Hummingbird, son presentados en público y anunciados, documentando todas sus características.

      La mayor parte de los algoritmos que se utilizan en la actualidad, provienen del ámbito académico, y son perfectamente conocidos.

      Que alguien no tenga la formación musical necesaria para leer una partitura, no significa que la misma esté plagada de secretos y mensajes reservados para los músicos.

      Es pura y llana ignorancia. Y no molestarse en buscar la información referente a esas tecnologías, que están al alcance de cualquiera, mucho más preocupante.

      Pero claro, si dejas que el desconocimiento siembre de rincones oscuros tu percepción del mundo, cualquier cosa desconocida se verá con miedo.

      Sin una educación matemática mínima, solo se puede especular con esos temores para amedrentar. Como hacen los antivacunas., o los que piensan, que los campos electromagnéticos producen dolencias desconocidas.

      Cualquiera que solo lea los comentarios, o algunas de las admoniciones que se dejan caer desde los post, pensara que estamos, otra vez, al borde la hecatombe.

      No se puede utilizar la ignorancia propia, como argumento para atribuirle una intencionalidad oculta a todo lo que no se entiende.

      Hay que tomarse la molestia de alfabetizarse antes de empezar a encender las antorchas.

      No, no nos invaden los algoritmos mutantes, provenientes de planetas desconocidos.

      (Si lees todos los títulos de los post de Enrique sobre estos temas de seguido, te sale una película gótica de la Hammer.)

      Se me quema el desayuno, y el temporizador mete mucho jaleo. Y la caja de texto se hace cada vez más pequeña, y pequeña, y más difícil de leer y escribir una línea completa.

      Google Panda

      Google Hummingbird

      Dentro de Google – Algoritmos

      Conspiradores haciendo un algoritmo ininteligible para los buenos cristianos.

  • #008
    menestro - 13 Febrero 2017 - 00:11

    Gorki ya te ha dado un apunte bastante acertado.

    Creo que la carencia de educación esta convirtiendo el término Algoritmo en una ‘Palabra Mágica’ sin que mucha gente, que ha padecido nuestro sistema educativo, ni siquiera pueda ubicarla o darle un significado real.

    Los Algoritmos no son ‘entes descorporeizados’ que dominan el mundo, como les gusta titular a los medios de comunicación (periodistas), víctimas de la ‘innumeracy’ o falta de alfabetización matemática.

    Forman parte de innumerables acontecimientos cotidianos, desde el turno de la pescadería, hasta el calendario, pasando por su evolución desde tiempos inmemorables; los primeros algoritmos servían para llevar la contabilidad del grano en tablas de arcilla, y de ese sistema de cálculo deriva la escritura.

    Los usaban en China con los ábacos, en la América precolombina con los Quipus, y cualquier sistema de cálculo, ya sea en papel, Tarjas de madera, o circuitos de estado solido utiliza un algoritmo. Hasta los tickets de la hora.

    Crear un mito acerca de la supuesta autonomía o volición propia de un algoritmo, es caer en el más arcaico de los oscurantismos e ignorancia.

    Habría que empezar no confundir a un algoritmo con una ‘Agente inteligente’ que aun estando basados en algoritmos, sí son programas con una limitada autonomía y propósitos específicos.

    Y así, podríamos seguir explicándolo mitos sobre la la palabra algoritmo en una retahíla de post, desmontando la charlatanería habitual en torno a cualquier progreso tecnológico.


    (y mañana, hay que madrugar.)

  • #009
    ruizdequerol - 13 Febrero 2017 - 08:41

    En total desacuerdo con que “las religiones […] no son más que un conjunto de algoritmos diseñados para regular unas conductas determinadas”.

    La religión no niega la libertad, al contrario. Dígale eso a un algoritmo.

    • Esceptico - 13 Febrero 2017 - 11:33

      Hablando de Algoritmos y Religión

      a) I+D: 6400mill.
      b) Iglesia: 11.000 mill

      Tenemos dinero para lo que queremos.

      http://www.elconfidencial.com/tecnologia/2015-03-11/los-cientificos-decepcionados-con-el-presupuesto-para-investigacion-en-2015_726410/

      http://www.elplural.com/2015/04/06/la-iglesia-catolica-recibe-mas-de-11-000-millones-anuales-del-estado

  • #011
    Alfonso - 13 Febrero 2017 - 08:59

    Enrique, muy bueno lo de las religiones como algoritmo.

    Yo tambíen creo que siempre han existido y ahora solamente cambia la forma de llevarlos a cabo. Por eso no tengo visión apocalíptica, porque a la masa siempre se la ha manipulado (ojo que aveces todos somos parte de ella). Recuerda un pueblo supuestamente culto como el alemán en los años 30….

    La única diferencia que veo ahora es que gracias a la tecnología esto puede hacerlo un tio desde California con 1.400 millones de personas en todo el mundo. Es decir, el libre albedrío de las personas está igual de condiconado que siempre pero el poder de manipular a millones de personas se lo estamos dando a unos pocos. Que se vuelven inmensamente ricos.

    • Sergi - 14 Febrero 2017 - 20:50

      No estoy tan seguro como tú de esto que dices. Es obvio que suena muy pausible, pero yo lo veo denada otra forma y creo que es como E. Dans lo describe también entre lineas: los nuevos algoritmos (los digitales) tienen el poder de desplazar la toma de decisiones hacia la INTELIGENCIA COLECTIVA.

      Fijémonos: el éxito del buscador de Google es sabido que vino de otorgar el máximo valor a la “popularidad” en su fórmula (algoritmo) para ordenar resultados de búsqueda. Años antes que Google, muchos portales web (servicios de información ) usaban mecanismos sociales para destacar información de valor, como los foros, en donde ya se mostraba el numero de visitas o comentarios de cada publicación. Y un largo etcétera que ahora mismo ve su culminación en las “redes sociales”.

      Para no hacerlo más largo, solamente quiero concluir que los algoritmos digitales claramente han demostrado ir en la dirección de dar LA VOZ Y EL VOTO a los humanos, nunca de una forma más imparcial y repartida que antes en la historia de la humanidad.

      ¿Mejorable? Por supuesto, como todo. Pero más miedo que el temido “poder de Facebook” me da la idea de que haya quien ya esté hablando de CENSURAR lo que se publica en Facebook. Esperemos que sean los últimos estertores del antiguo régimen…

  • #013
    Esceptico - 13 Febrero 2017 - 11:25

    No sé si es mi percepeción, o al asumir que la ignorancia mueve montañas, se le da cierta cancha a la “no_inteligencia” emocional… de hecho la gente se equivoca, tampoco nos reiamos de quien lo hace desde la ignorancia promovida por las instituciones materno filiales.

    a) Ejemplos de errores sin usar algoritmos

    http://www.ingenieroboss.com/los-mejores-fails-de-los-no-ingenieros/

    Si definimos algoritmo como ” Conjunto ordenado de operaciones sistemáticas que permite hacer un cálculo y hallar la solución de un tipo de problemas ”
    Ahí se acaba lo que es un algoritmo. No magia, No fé, Y algunas veces plantean soluciones erróneas. Sobre todo cuando el revisar el resultado es complicado

    b) Equivocación usando algoritmos.

    http://omicrono.elespanol.com/2016/07/error-software-resonancia-magnetica/

    El problema suele ser el mismo que en Matemáticas, no se puede dar por probada una conjetura(algoritmo) porque en un número limitado de pruebas nos de la razón. Y como el coste de probar un algoritmo es directamente proporcional a las pruebas que se hacen…

    Si a esa incertidumbre (dar una conjetura por buena) le sumas el dar un resultado estadístico, perdón quería decir IA, por bueno, por el hecho de que se cumpla en un 95%(*) de las veces no significa que su resultado sea la verdad absoluta, asumiendo que pueda o deba existir,(**) aunque solo sea por mantener una tesis argumental en el contexto que dicta el artículo.

    (*) Ya quisieramos un 95%…
    (**) ¿Pan y circo?¿Opio del pueblo?¿Nietzsche ha muerto? son offtopics, aunque se mezclen en el título.

  • #014
    batch4j - 13 Febrero 2017 - 16:41

    La mayor diferencia entre el algoritmo de calculo de un numero par y un calculo de un numero primo, es que el par practicamente esta escrito y el del numero primo depende de los resultados y cada nuevo numero primo es un numero mas para calcular.
    Porque comento esto, porque los ALGORITMOS de los que hablamos son iterativos, aprenden de los datos y utilizan tecnicas de IA y Genetica. Dicho esto que significa pues que un algoritmo puede decidir que tiene que cambiar para ser mejor y cada vez recibe mas y mas datos en tiempo real.

  • #015
    Xaquín - 13 Febrero 2017 - 19:38

    Está muy bien definido el campo de actuación de los algoritmos conocidos. Los comentarios clarifican el asunto. Y también aclaran lo poco que respetan nuestra inteligencia racional y emocional algunos comentaristas. Como si fueramos “nenesdeteta”!

    Pero pienso que un algoritmo que se autoregenere (no se si se dirá así, no se si está logrado, pero dudo mucho que no se consiga), ya no tiene mucho que ver con el algoritmo de la suma aritmética. Solo el nombre. Se supone que hablamos de “otra cosa” a la que también podemos llamar algoritmo. Además los algoritmos hasta ahora eran usados por humanos y máquinas de n-1 generación… empezamos a pensar en algoritmos usados por seres inteligentes (?) no humanos…

    Por otro lado ya decía la anterior entrada (apocalíptica??) que somos los humanos el problema, no las máquinas. Los humanos creamos dioses y lo que sea para mantener un determinado poder establecido, no hai animal que nos imite. Una opinión?

    Hasta ahora no lei nada sobre “creer en los algoritmos” (promovido por este blog)… pienso que se trata de decir que “están aquí”, y desde luego con más presencia (efecto sobre nuestra vida) que la de los posibles extraterrestres.

  • #016
    PABLETE - 18 Febrero 2017 - 10:38

    Vaya, vaya… la de personas ilustradas que saben lo que es y no es un algoritmo y como funciona… y lo que es una patente…
    Me parece que el sentido y el contexto del artículo de Enrique no lo habéis pillado.
    En mi modesta opinión… los algoritmos que se usan en la actualidad retroalimentados, pueden ser incontrolables y usados de manera maliciosa pueden mover a las masas con su consiguiente manipulación de las mismas…

Dejar un Comentario

Los comentarios están cerrados