Fede Durán, de Actualidad Económica, me llamó para hablar sobre la dependencia de las máquinas y las maneras en las que el entorno hiperconectado que nos rodea pueden llegar a afectarnos, muy al hilo de las tesis de Nicholas Carr al respecto que en su momento ya comenté en un artículo que me solicitaron para el diario El País.
En su artículo, titulado «¿Esclavos de las máquinas?» (pdf), Fede analiza muchos de los que para mí son mitos en la relación entre persona y máquina, una relación que, desde mi punto de vista, solo se puede analizar cuando se alcanza un cierto equilibrio. Por supuesto, la dependencia parece negativa cuando se estudia en el contexto de unos cambios que no están aún optimizados, que no han incorporado nuevas metodologías de aprovechamiento de la tecnología o que contravienen algunos patrones culturales muy arraigados. Pero eventualmente, cuando los procesos de adopción se completan, el resultado final es – o ha sido siempre – netamente positivo, y las objeciones iniciales se prueban propias de agoreros.
El otro asunto que se insinúa en el artículo es el de la singularidad tecnológica, un concepto que me parece interesantísimo y que se suele definir como «un posible acontecimiento futuro en el que, según se predice, el progreso tecnológico y el cambio social se acelerarán con el desarrollo de una inteligencia sobrehumana de tal manera que ningún ser humano anterior a dicho acontecimiento podría comprenderlo o predecirlo». Y ese momento, en algunos sentidos, ha llegado ya. En machine learning, por ejemplo, los algoritmos y modelos predictivos más importantes ya no se plantean como constreñidos por la capacidad de un humano para entender su funcionamiento, sino que simplemente se evalúan en función de su eficiencia a la hora de ofrecernos resultados. Se convierten, en muchos sentidos, en una caja negra cuyo funcionamiento no nos planteamos, capaz de enfrentarse al análisis con mucha más potencia que el cerebro de las personas, y de contribuir a procesos de toma de decisiones mejor que muchos directivos. De eso a la singularidad tecnológica, a que la máquina sea capaz de mejorarse a sí misma o de obtener por sus propios medios los datos que necesita, no va tanta distancia. Ahí lo dejo. Al menos por hoy.
Enrique,
creo que la expresión «mucha más potencia que el cerebro de las personas» no es la más adecuada para describir lo que hace el machine learning.
Hasta donde yo sé, no existe nada que el hombre haya inventado que tenga más potencia de cálculo que el cerebro humano. Otro tema, muy diferente, es que tenga más capacidad de enfocarse en un determinado «camino» o «método de resolución» con una potencia de cálculo brutal, utilizando algoritmos que llevan a que efectivamente no se sepa en definitiva como está llegando a tal solución.
Saludos.
Hombre, que no tenga la intuición, o la conexión neuronal que un ser humano, por supuesto. Pero más potencia de cálculo?!?! Por supuesto que sí! De ahí surgieron los ordenadores. Recuerda las salas enteras repletas de gente que usaban para calcular trayectorias de tiro en la II Guerra Mundial.
Tiene más potencia de calculo. Otra cosa es que la parte dedicada a las tareas totalmente conscientes tenga mucha menos.
no existe nada que el hombre haya inventado que tenga más potencia de cálculo que el cerebro humano
Deep Blue superó al mejor jugador de ajedrez del mundo y desde luego superaba de largo jugando al ajedrez a todos los que la inventaron y no era solo por su monumental capacidad de cálculo, es que selecciona mejor que la mente humana, entre las posibles jugadas, las que son mas prometedoras para conseguir la victoria.
Selecciona mejor y puede explorar con más profundidad sus posibilidades, ambas cosas a la vez, por eso juega mejor.
Deep Blue no tenia que estar pendiente de millones de bits de informacion provenientes de sus sensores. Ni tenia que discernir de entre todos ellos cuales eran significativos para jugar a ajedrez. Ni vincularlos de forma logica y sin error con el proceso en si de jugar al ajedrez. No digamos ya el resto de funciones fisiologicas mucho más complejas que el SO que pudiera tener Deep Blue.
Lo único que tenia que hacer es jugar al ajedrez, el cerebro humano tenía que hacer muchisimas mas cosas al mismo tiempo.
¿Quieres decir que jugaba mejor al ajedrez, porque la inteligencia no tiene la suficiente capacidad de concentración? – Pues, con toda seguridad tienes razón, un super ordenador es siempre mutipurpose, multifuncion o multipropósito, pero es que es ademas multitarea, en un instante dado puede estar desaroyando varios miles de tareas diferentes, pero en caso de necesidad tiene más capacidad que el cerebro en concentrarse en un sola, y desde luego mucha más capacidad de cálculo. Por eso juega mejor.
desarrollando…
Pero Deep Blue solo sirve para jugar al ajedrez, y poca cosa mas.
El cerebro humano es muchísimo más complejo, tiene muchas más capacidad de adaptación y de hacer millones de cosas que Deep Blue. Otra cosa es que lo haga mucho más lento.
Por lo tanto, la «potencia», vista en conjunto, es mayor en el cerebro humano.
¿Quien ha dicho que no valga para nada más? – Es simplemente un superordenador, hoy juega al al ajedrez, mañana calcula la trayectoria para poner en órbita un satélite alrededor de Marte y al día siguiente obtiene tendencias de las conversaciones en Twitter. Cualquier cosa en la que necesite gran capacidad de cálculo
Conviene hablar con propiedad, cualquier calculadora supera la capacidad de CALCULO del cerebro humano, el cerebro es muy malo para el calculo y la memoria es comparativamente muy limitada.
Hay que reconocer los puntos fuertes de las máquinas, de no hacerlo, nos convertiremos desde hoy, en victimas voluntarias de la singularidad.
Sin duda es un tema muy interesante, que puede tener un impacto social enorme. Por ejemplo, ¿cómo afectará a los empleos actuales? Ya hay gente dentro del mundo del deep learning augurando que en pocos años no se necesitarán taxistas o traductores, por ejemplo.
Por otro lado, los sistemas de toma de decisiones basados en machine learning, hasta donde yo conozco, aunque actúen como cajas negras, deben proporcionar un registro que permita auditar por qué se ha llegado a esa decisión. Obviamente, es una característica para la depuración pero también para la monitorización de estos sistemas. Por lo tanto, aunque en el ámbito personal quizás no nos planteemos cómo funcionan, sí es cierto que en muchos otros escenarios de aplicación, como por ejemplo la salud, es necesario poder auditar y monitorizar esa toma de decisiones.
Un saludo
La foto que ilustra el articulo «Esclavos de las maquinas» es engañosa. O si es ilustrativa de algo, es casi de lo contrario que pretende ilustrar, los estudiantes en esa foto están usando una app de asistencia durante su visita al museo para leer información sobre los cuadros antes de su visionado (hay pequeñas pistas en la foto, una pareja compartiendo teléfono, los papeles en el regazo, una estudiante esta usando una cámara, no un teléfono, etc…). Si en la foto parte de los estudiantes estuvieran mirando el cuadro, sería más fiel a la realidad fotografiada (aunque menos impresionante).
Los hombres somos esclavos de nuestros inventos desde que somos hombres, ¿Acaso no hemos sido esclavos de el fuego, de la rueda, del arado, del motor?- ¿Cómo podríamos vivir sin esos inventos? ¿No hemos modelado la superficie de la tierra para que las ruedas puedan desplazarse sin problemas?.
Con el ordenador, pasará algo semejante, seremos sus esclavos en la misma medida que lo somos del motor, de la electricidad, o del agua corriente. No veo mucha diferencia en la dependencia. ¿Alguien fuera de un puñado de expertos, se platea como funciona los relojes digitales de forma que cambien a la hora de verano e invierno automáticamente, o que medios técnicos hacen falta para que la electricidad, generada en una lejana central eléctrica haga funcionar simultáneamente, la radio, un horno microondas y la nevera a la vez?.
Simplemente los utilizamos sin más preguntas y si un día faltan no sabemos reaccionar. Si la tecnología falla, las ciudades modernas serían inhabitables, ¿Nos hace eso esclavos de la tecnología?.
¿Nicholas Carr? ¿Ese no era neoludita?
Nicholas Carr lleva razon, pues como cualquiera puede darse cuenta la gente tiene la «atencion cansada», «atencion dañada» como se deduce del tipo de contenido que se ve y se escribe en internet todo el dia, o los que escriben aqui todos los dias tan superficialmente, o sino el exito de redes como Pinterest, Tumblr y tantas otras que consiste en imagen, tonta casi siempre, y frase de dos lineas debajo … y asi se pasa la gente billones de horas, nada de esos inmensos articulos en calidad y cantidad de informacion, de las revistas de papel de los 80s etc.
En cuanto a la segunda parte y lo de Kurzweill por ahora sigue siendo un escritor de ficcion, y cuando el ordenador acaba con la competicion de ajedrez, porque los clubs de ajedrez estan desaparecidos desde que llego el ordenador al ajedrez, pues es otra pena de tantas, algo positivo que se pierde …
Sin embargo la cama de un hotel, o poner ladrillos, jardinero; el peligroso trabajo de podar un pino, o copas llevar la comida a la mesa, o tantos trabajos simples y penosos los sigue haciendo el Humano, para eso no hay ordenador, mientras los ordenadores se han cargado los trabajos interesantes; musico, periodista, dicen que abogado esta al caer, y tantos otros …
Me gustaría compartir un microrrelato sobre singularidad tecnológica y transhumanidad que escribí hace un par de años:
http://sinlios.com/blog/2013/04/10/microrrelato-transhumanidad-off/
:-)
Me gustó
Luis, el final de tu microrrelato da para muchas reflexiones. Muy interesante.
Dado que he trabajado en el tema, aunque los resultados que estan apareciendo últimamente son bastante impactantes, yo no pondría tanto entusiasmo. El machine learning puede hacer lo que puede hacer, pero no es ni mucho menos Inteligencia Artificial. Hay algo que se nos escapa a los matemáticos, por que la mayoría creo que estamos de acuerdo que solamente con algoritmia no tenemos IA.
Respecto a lo que menciona Enrique sobre las cajas negras, apuntar algo: no es que no se conozca que es lo que pasa dentro, por supuesto que se conoce, no son estructuras tan complejas; es que la no linearidad que pueden modelar se escapa a otros tipos de sistemas «más convencionales» y sencillos. Una red neural con pocos nodos puede hacer una aproximación a una función no lineal muy compleja que necesitaria polinomios interpoladores de grados enormes. El machine learning pues viene a ser un paso más en modelización de datos, y desde mi perspectiva, no es ni mucho menos un salto muy grande a otras técnicas más antiguas.
Por tanto, no mistifiquemos. Para una singularidad tecnológica aún falta mucho… eso sí, la inmensa mayoría realmente no es consciente de que puede hacerse ya hoy día con las herramientas que existen, lo que es un grave problema: como toda herramienta poderosa, puede hacer mucho bien, y por supuesto, mucho mal.
Estoy de acuerdo contigo, en líneas generales la IA esta idealizada y por norma general es desastrosa, Como muestra, la absurda publicidad de contexto a la que estamos sometidos. Por ejemplo, hace poco que escribí un post sobre las Bardenas Reales. Desde entonces me persigue un anuncio de un hotel en Tudela. Evidentemente, si escribí sobre ese lugar, es que ya HE ESTADO ALLI YNO QUE VAYA A IR, pero algo tan evidente no es capaz de captarlo la IA de la publicidad contextual,
Si embargo lo que dices sobre la complejidad de las cajas negras, no estoy de acuerdo al menos algunos dicen no comprender las decisiones que toman los algoritmos que ellos mismos han diseñado. Hace mucho leí sobre AARON un pintor digital sumamente interesante del que su inventor creo unos algoritmos con las normas básicas de composición, junto con otras de estilización de las figuras y declara no entender que lógica sigue las pinturas que hace la máquina.
http://www.kurzweilcyberart.com/
No voy a ponerme a hacer una clase de machine learning, pero si al menos apuntar algunas cosas.
En machine learning se engloban un montón de técnicas diferentes -redes neurales, random forests, algoritmos genéticos, árboles de decisión, etc, etc…- con mayor o menor complejidad estructural. El denominador común es el tener un conjunto de datos, un proceso de ‘aprendizaje’ que genera una estructura adaptada al conjunto de datos para poder hacer «predicciones» que podemos llamar «caja negra», y una «métrica» que calcula la distancia entre los datos que tenemos y las predicciones que genera la caja negra.
El aprendizaje se basa básicamente en minimizar la métrica para un subconjunto de datos de forma iterativa hasta que se alcanza una condición de stop, que puede ser un distancia dada, un número máximo de iteraciones, la convergencia de algunos de los parametros de la caja negra, etc etc. El resto se usa para una vez finalizado el aprendizaje calcular la «exactitud» de la caja negra.
Este proceso realmente no tiene ningún misterio. Y lo que genera, la caja negra, tampoco. Otra cosa es que algunos, por el mero hecho de diseñar un algoritmo pretendan ser capaces de predecir el resultado del algoritmo… cualquier programador sabe que eso es tarea imposible de manera general.
Por tanto, los que se sorprenden por los resultados que generan sus algoritmos de machine learning, en realidad es que están sobreestimando, y en mucho, su propia capacidad. La no linealidad tiene estas historias, y básicamente es para tratar problemas fuertemente no lineales para lo que se inventaron todas estas técnicas.
Oto punto de vista sobre el mismo tema en MadrI+D de Joaquín Rodriguez
http://www.madrimasd.org/blogs/futurosdellibro/2015/05/27/137053
La tecnología no es ni buena ni mala, el problema está en su su uso porque es igual de útil para hacer el bien que para hacer el mal.
La responsabilidad de los ciudadanos en la política es cada vez más necesaria precisamente por el peligro cada vez mayor de un mal uso de la tecnologiá. Tanto los ciudadanos como el poder tienden a usar la tecnología en su propio beneficio. Por esa razón es imposible que compartamos la misma visión sobre el uso de la tecnología. Gobernantes y gobernados competimos por el tipo de uso que se le da a la tecnología y no nos mueven los mismos intereses.
Los ciudadanos deberían ser cada vez más sabios y mas poderosos para garantizar un uso óptimo de la tecnología desde el punto de vista social.
Algunas sociedades con con fanatismo religioso que censuran todo atisbo de tecnología por su utilidad para supuestamente hacer el mal y ofender a su Dios, son precisamente las que no ponen reparos en usar tecnología para cercenar libertades y perpetrar asesinatos masivos. Se ve que para eso la tecnología sí es buena.
Me cago en Apple, me cago en Apple y me cago en Apple…siento empezar así pero me ha borrado todo lo que escribí sin guardarme lo escrito…estoy hasta el apéndice del ipad este!
Y solo decía que está el patio revuelto con lo del cerebro… que poco podemos entendernos hablando de IA cuando tenemos serias dificultades (posaristotélicas?) para entendernos hablando de potencia mental ( aunque sea en aritmética calcularia)…queremos comparar a una maquinita que hace muy muy muy rápida una sola tarea con un cerebrito que por imperativo de ADN debe hacer una multifunción constante de vigilar el ecosistema donde está o estará e ir tomando varia decisiones sobre la marcha…incluido si le gusta la sonrisa de la persona que está en el público!)…en fin, que comparar cosas tan tan tan dispares es hacerle un feo al trabajo evolutivo de millones de años de mamá naturaleza…
Creo, y perdóname si soy directo Enrique, creo que eres demasiado optimista y algo superficial en este análisis. Te olvidas por ejemplo de los graves problemas de contaminación electromagnética (smartphones y antenas) y de un conjunto de patologías psicológicas recientes relacionadas al actual uso tech. Tampoco entiendo por qué aplicas el Lamarckismo (hablas de «adaptación») cuando en realidad la selección natural darwinista hará su implacable curso (incluidas enfermedades tech-related).
Echo de menos referencia obligada a Ray Kurzweil
Espero que cuando lleguemos al punto de absoluta singularidad tecnológica, desaparezcan todas estas tipografías que lo único que hacen es dolor a la vista. Enrique, con todo el cariño y respeto que te tengo, por favor, habla con tu diseñador. No es normal que una página de referencia como ésta tenga esta tipografía. Quizá en el móvil se vea bien, pero en el ordenador es…. Un saludo.