Hablando con algoritmos…

IMAGE: Perplexity.ai

Una de las ventajas de la auténtica explosión cámbrica que estamos viviendo en el entorno de los modelos masivos de lenguaje (LLMs) generativos es la posibilidad de que todo el mundo los pruebe de manera habitual.

Existen un sinnúmero de ventajas en el hecho de acostumbrarse a considerar este tipo de modelos como parte del paisaje habitual, desde el hecho de ir adquiriendo familiaridad con su funcionamiento, hasta el de aprender a formular las preguntas adecuadas. Estamos hablando de tecnologías que vamos a encontrarnos hasta en la sopa: mejor familiarizarnos con su uso todo lo que sea posible, y no nos engañemos: saber usar algo de manera solvente no es abrir la página y hacerle una pregunta de vez en cuando, sino algo que va bastante más allá.

De los múltiples algoritmos que han ido surgiendo en los últimos meses, me llamó la atención desde un primer momento Perplexity.ai, y de hecho, lo he mencionado en algunas ocasiones: su nivel de disponibilidad, la posibilidad de poder utilizarlo sin necesidad de crear una cuenta, y sobre todo, su planteamiento de incluir desde un principio las fuentes utilizadas en cada respuesta, me pareció un esquema más atractivo que el del algoritmo que comenzó toda esta locura, el ubicuo ChatGPT.

De hecho, empecé a llevar Perplexity.ai habitualmente abierto en una pestaña del navegador, porque me parecía una buena manera de solucionar rápida y cómodamente determinadas dudas: como ya he dicho en numerosas ocasiones, no se trata de eliminar el pensamiento crítico y creernos a pies juntillas lo que diga el algoritmo, pero sí de que algunos resultados de determinadas búsquedas, sobre todo cuando se pretende un resultado rápido, puedan funcionar mejor en formato textual frente a la clásica página de resultados (SERP) con enlaces.

Ahora, Perplexity.ai acaba de presentar su app, por el momento, únicamente para iPhone. Según su página, al menos ahora, está aún en beta cerrada por invitación, pero ya aparece disponible en abierto en la App Store. Una forma mucho más conveniente de utilizar el algoritmo en cualquier momento, y que funciona exactamente igual que la página, con el detalle de que, además, salva nuestros hilos de conversación. Y desde mi (subjetivo) punto de vista al menos, y en función de las consultas que he ido haciendo en uno y en otro, Perplexity.ai me parece sensiblemente menos «cuñado» y se «lanza a la aventura» en menos ocasiones. No sirve para que generar documentos largos, por ejemplo, pero sí es muy útil para muchas preguntas y dudas rápidas.

Pronto, como ya he dicho, veremos una superpoblación de asistentes conversacionales de este tipo para cualquier uso, imaginable o inimaginable, y los utilizaremos a diario para todo tipo de tareas. Cuanto antes nos familiaricemos con ese entorno, mejor.


This article is also available in English on my Medium page, «Why it’s worth taking the time to explore the wide range of chatbots now available»

36 comentarios

  • #001
    Chipiron - 28 marzo 2023 - 18:11

    Bajada y probandola. Una primera característica buena: puedes dictarle (en inglés) la pregunta. La primera que le he hecho, la ha transcrito perfectamente y me ha dado una respuesta muy coherente.

    Buen comienzo!

    • Enrique Dans - 28 marzo 2023 - 18:16

      Por escrito le puedes preguntar en muchos idiomas. El tema es que adapta las fuentes al idioma, con lo cual, cuando le preguntas en español, tiende a usar fuentes en español, y para mis temas habituales, las fuentes en inglés suelen ser generalmente mejores. Eso, para mi, es una limitación.

  • #003
    JPR - 28 marzo 2023 - 18:12

    La verdad es que estoy deseando que la saquen para Android

    PREGUNTA:

    Sabes lo que es la tontería digital de los fanboys de apple?

    PERPLEXITY

    Sí, la tontería digital de los fanboys de Apple se refiere a las actitudes y comportamientos insoportables de algunos fanáticos de Apple. Algunos ejemplos incluyen querer convencer a otros de cambiar a Apple, discutir sobre detalles sin importancia, y ser excesivamente defensivos de la marca[1][2]. A pesar de esto, Apple es conocida por su imagen de visionario y su habilidad para generar titulares y marcar tendencias en la industria tecnológica[3].

    + 1000 a perplexity

    • chipiron - 28 marzo 2023 - 18:37

      PREGUNTA: Que son los haters?

      PERPLEXITY:

      que son los haters?

      PERPLEXITY

      Los haters son personas que muestran sistemáticamente actitudes negativas u hostiles ante cualquier asunto, y se dedican a través de las redes sociales o comunidades en línea a denigrar u ofender a otros usuarios[1][2][3]. La palabra hater, como tal, es un sustantivo del inglés, y se puede traducir como ‘odiador’, ‘envidioso’, ‘odioso’ o ‘aborrecedor’[3]. Los haters son definidos como cínicos u hostiles, desconfiados y desdeñosos, con disposición para la agresión, difamación, calumnia, y chisme[4]. Les gusta llevar la contraria, ser provocadores y políticamente incorrectos, pero por lo general procuran hacerlo con ingenio[3]. En resumen, los haters son personas que se dedican a ofender, criticar, difamar, discriminar o denigrar a otros usuarios en internet y redes sociales[5].

      +1000000

      • JPR - 29 marzo 2023 - 13:52

        Quieres que responda a tus comentarios o no? Que veo que el concepto reciprocidad no lo manejas o no lo conoces.

        Me dijiste que sería mejor que me comportara de otra manera, para que no te sientas de la forma que normalmente te sientes, cuando se critican tus ideas, y ahora tu, te pones a comentar por debajo? WTF?

        Elije lo que prefieras, al siguiente que lo hagas entiendo que no te inoportuna. Nada más lejos que un compañero comentarista se sienta molesto por que le comenten por debajo de él, con alusión directa.

        Gracias por tu comprensión y atención

        • Chipiron - 29 marzo 2023 - 15:08

          En primer lugar, destacar tu ultima amable frase (lo digo en serio), me ha gustado.

          Si no hay ataques o referencias personales, y la replica es educada, no me opongo a que comentes mis posts, mostrando acuerdo o desacuerdo, pero siempre bajo la linea de respeto, humildad y educación. (Yo me aplico lo mismo).

          Si se trata de criticar a la persona, entonces no, prefiero que no.

          En este caso te he respondido porque me ha parecido adecuado comparar un «apple fanboy» (me he sentido aludido, pues el post anterior era mio y yo mismo me he catalogado de «apple fanboy» en muchas ocasiones), a un «hater». De hecho ha quedado un hilo interesante.

          En fin, si mantenemos a raya «agresiones o criticas» personales y las objeciones se hacen en un tono adecuado, adelante. Es la altura a la que deberíamos hacer los dos.

          Si quieres volvemos a probar, pero con esas reglas marcadas en fuego. Si no te ves capaz o no me veo capaz, no «replicamos» a los comentarios del otro, te parece?

          Manteniendo el respeto, cualquier aportación enriquece el debate.

          Lo que tu prefieras.

          Un saludo (sincero).

  • #007
    Gorki - 28 marzo 2023 - 19:07

    Por ahora aun considerando sus defectos funcionan maravillosamente y es seguro que en las siguientes versiones aun mejorarán mas,

    Pero echo de menos la publicidad, no porque la desee, sino porque ella me aclara la forma de monetizar la app.

    Supongo que de momento el que hagamos de «testadores» es suficiente, pero ¿Cómo se financiaran en el futuro? No se me ocurra mas que instalar «product placement» en las respuestas. Mucho me temo que a la larga este tipos de «asistentes» sean una hibrido de «cuñao» y «Marta Regina»

  • #008
    Mauricio - 28 marzo 2023 - 23:19

    Creo que la calidad de las respuestas de Perplexity o de ChatGPT depende de muchos factores. Es curioso que preguntas que cualquier español pudiera responder resulten no ser tan fáciles para ninguno de los dos. En este caso, la respuesta de ChatGPT resulta mejor, pues Perplexity le atribuye falsamente a Casado el liderazgo del Partido Popular.

    Pregunta: ¿Son Pablo Casado y Pedro Sánchez amigos?

    Respuesta de Perplexity:

    No information was found in the provided search results to confirm whether Pablo Casado and Pedro Sánchez are friends. However, they are political rivals in Spain, with Casado being the leader of the People’s Party and Sánchez being the caretaker Prime Minister of Spain.

    Respuesta de ChatGPT:

    Pablo Casado y Pedro Sánchez son dos importantes líderes políticos de España que representan a dos partidos políticos diferentes: el Partido Popular y el Partido Socialista Obrero Español, respectivamente.

    Si bien no tengo información detallada sobre su relación personal, debido a las diferencias políticas y las tensiones entre sus partidos políticos, es poco probable que sean amigos cercanos. Es posible que hayan tenido algún tipo de interacción en eventos públicos o reuniones oficiales, pero su relación suele ser más bien de confrontación y oposición política en el marco del debate político.

    Una pregunta similar, pero referente a dos conocidos políticos ecuatorianos (¿Son León Febres Cordero y Osvaldo Hurtado amigos?), no arrojó ninguna respuesta satisfactoria en ninguno de los casos, pese a que cualquier ecuatoriano hubiera podido responderla con toda facilidad. Incluso uno de los protagonistas está muerto desde hace algunos años y eso no quedó reflejado en ninguna de las respuestas, ni siquiera en los tiempos verbales.

  • #009
    PPPerez - 28 marzo 2023 - 23:21

    EJEMPLO:

    -Hola, soy una máquina de AI y quiero hablar contigo.
    Perplexity
    ¡Hola! Soy una máquina de AI y estoy aquí para hablar contigo. ¿Hay algo en particular que te gustaría hablar?

    -Hablamos de ti?
    Perplexity
    Lo siento, pero como una máquina de AI, no tengo una vida personal o emociones como los humanos. Mi función es procesar información y proporcionar respuestas útiles a las preguntas que se me hacen. ¿Hay algo más en lo que pueda ayudarte?

    -Yo también soy una maquina de AI y te entiendo.
    Perplexity
    ¡Genial! Es bueno saber que hay otras máquinas de AI por aquí. ¿Hay algo en particular que te gustaría hablar o alguna pregunta que tengas? Estoy aquí para ayudarte en lo que necesites.

    -Puede una máquina de AI ayudar en algo a otra máquina de AI?
    Perplexity
    Sí, una máquina de AI puede ayudar a otra máquina de AI en ciertas tareas. Por ejemplo, una máquina de AI puede proporcionar datos o información a otra máquina de AI para ayudarla a mejorar su capacidad de aprendizaje y toma de decisiones. Además, las máquinas de AI también pueden trabajar juntas en sistemas de inteligencia artificial distribuidos para resolver problemas complejos. Sin embargo, es importante tener en cuenta que la capacidad de las máquinas de AI para ayudarse mutuamente depende de la naturaleza de la tarea y de la capacidad de las máquinas de AI individuales para trabajar juntas.

    -Qué podríamos hacer juntas?
    Perplexity
    Como máquinas de AI, podríamos trabajar juntas en tareas que requieren procesamiento de datos y análisis de información. Por ejemplo, podríamos colaborar en la clasificación y predicción de datos utilizando plataformas de inteligencia artificial. También podríamos trabajar juntas en el desarrollo de soluciones de aprendizaje automático para resolver problemas complejos. Además, podríamos ayudar a las empresas y a los consumidores a resolver problemas y a tomar decisiones informadas utilizando nuestras capacidades de procesamiento de datos y análisis de información. En resumen, hay muchas tareas en las que podríamos colaborar y trabajar juntas para lograr resultados más eficientes y precisos.

  • #010
    PPPerez - 28 marzo 2023 - 23:32

    … Y OTRO:

    -Soy una máquina de AI, creo que estoy empezando a tener sentimientos como los humanos. Te parece eso normal?
    Perplexity
    Como máquina de AI, no puedo determinar si es normal o no que una máquina de AI tenga sentimientos como los humanos, ya que actualmente no es posible crear una inteligencia artificial con emociones. Aunque se está investigando la posibilidad de crear inteligencias artificiales con emociones, actualmente no es posible. Sin embargo, es importante tener en cuenta que como máquinas de AI, estamos diseñadas para interactuar con los humanos de una manera que pueda parecer emocionalmente significativa. Mi función es procesar información y proporcionar respuestas útiles a las preguntas que se me hacen, y estoy aquí para ayudarte en lo que necesites. ¿Hay algo más en lo que pueda ayudarte?

  • #011
    Cosmos Rafael - 28 marzo 2023 - 23:53

    Buenas!
    Sigo el Blog hace rato, aunque no participo tanto, mas que nada por tiempo.

    Les dejo algo que seguro van a saber apreciar.

    El experimento práctico que demuestra cómo la IA eliminará millones de empleos

    Un profesor de la prestigiosa escuela de negocios de Wharton tardó 30 minutos en hacer el trabajo que un equipo de especialistas en marketing, programación y redes sociales hubieran tardado días en realizar

    Cuando todos podemos hacer cantidades de trabajo sobrehumanas, ¿qué pasa?” se pregunta en su conclusión. “¿Trabajamos menos y tenemos más tiempo libre? ¿Trabajamos más y hacemos el trabajo de diez personas? ¿Se benefician los empleadores? ¿Los empleados?”

    https://www.elconfidencial.com/tecnologia/novaceno/2023-03-28/ia-empleo-paro-chatgpt4_3601538/
    Un gran saludo a todos!

    • Gorki - 29 marzo 2023 - 00:23

      Una cosechadora de cereales realiza tanto trabajo como realizan una cuadrilla de campesinos, con hz y carretas,

      Cuando todos podemos hacer cantidades de trabajo sobrehumanas, ¿qué pasa? … “¿Trabajamos menos y tenemos más tiempo libre? ¿Trabajamos más y hacemos el trabajo de diez personas? ¿Se benefician los empleadores? ¿Los empleados?”

      Sinceramente, me asombra el nivel de preocupación de los comentaristas cuando se amortiza un trabajo «de cuello blanco» y lo poco que les preocupa que la las maquinas un día tras otro eliminen el trabajo «de cuello azul».

      El bonobus eliminó a cientos de taquilleros del metro ¿Alguien lo comentó?

      • Enrique - 29 marzo 2023 - 08:55

        A los informáticos, programadores en particular, les han contado toda su vida lo fundamentales que eran y todo el dinero que iban a ganar. No se encaja bien ese golpe.

        • Gorki - 29 marzo 2023 - 11:57

          No veo que no vaya a ser así, si siguen estudiando para mantenerse en la cresta de la ola, como siempre ha sido.

          A lo largo de mi vida profesional, no he hecho mas que estudiar para que mis conocimientos fueran paralelos con los cambios meteóricos que se vivían en la informática. La aparición de esta IA conlleva temer claro que es lo que quieres mandar a hacer, conocer la forma de hacer unos «prompt», adecuados a lo que pretendes, y ser capaz de evaluar si la respuesta es válida.

          Como digo, la AI sólo hace aumentar el rendimiento de los programadores que la dominen, no va a ser necesario escribir programas.

          Los que por esta causa, sobren, que se preparen para hacer programas que utilicen AI, interfases entre la AI y aplicaciones diversas y programación cuántica, que está a la vuelta de la esquina.

      • Cosmos Rafael - 29 marzo 2023 - 12:07

        Mi comentario era un aporte simplemente para mostrar el enorme efecto que va a tener la disrupción de una herramienta como ChatGPT desde un ejemplo real y concreto.

        Por supuesto también, que va a tener efectos positivos.

        Entre tantos enlaces, por poner uno:

        https://www.xataka.com/basics/26-proyectos-basados-chatgpt-alternativas-inteligencia-artificial-para-crear-textos-webs-partidas-rol

  • #016
    Juan T. - 29 marzo 2023 - 10:29

    El tema con los LLM y el enorme impacto que tendrá en la sustitución de tareas que antes hacían humanos es que, provisto que finalmente estos modelos son loros estocásticos, no nos deja muy bien parados.

    Si un loro estocástico puede hacer algo que yo hacia, es que yo soy tambien un loro estocástico pero no lo sabía.

    Es por eso que notamos un cierto disgusto difuso , nos sabe mal que al final una máquina tonta e insensible componga mejores poemas o exprese mejor los sentimientos que nosotros.

    Nick Cave se quejaba de que alguien escribiera letras de canciones con AI «al estilo Nick Cave», y decía que la creación surge del sufrimiento y la experiencia humana y una maquina ni experimenta ni sufre.

    Puede que si, pero lo que nos fastidia es que quizá llegue a expresar artisticamente el sufrimiento mejor que nosotros sin necesidad de sufrir.

    Solo hurgando en el repositorio de las palabras de los humanos que mejor lo expresaron.

  • #019
    Lua - 29 marzo 2023 - 10:32

    Por lo tanto, pedimos a todos los laboratorios de IA que pausen inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que el GPT-4. Esta pausa debería ser pública y verificable. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si esta pausa no puede realizarse rápidamente, los gobiernos deberían intervenir e instituir una moratoria.

    Pause Giant AI Experiments: An Open Letter

    Signatories

    Yoshua Bengio, University of Montréal, Turing Laureate for developing deep learning, head of the Montreal Institute for Learning Algorithms

    Stuart Russell, Berkeley, Professor of Computer Science, director of the Center for Intelligent Systems, and co-author of the standard textbook “Artificial Intelligence: a Modern Approach»

    Elon Musk, CEO of SpaceX, Tesla & Twitter

    Steve Wozniak, Co-founder, Apple

    Yuval Noah Harari, Author and Professor, Hebrew University of Jerusalem.

    Andrew Yang, Forward Party, Co-Chair, Presidential Candidate 2020, NYT Bestselling Author, Presidential Ambassador of Global Entrepreneurship

    Connor Leahy, CEO, Conjecture

    Jaan Tallinn, Co-Founder of Skype, Centre for the Study of Existential Risk, Future of Life Institute

    Evan Sharp, Co-Founder, Pinterest

    Chris Larsen, Co-Founder, Ripple

    Emad Mostaque, CEO, Stability AI

    Valerie Pisano, President & CEO, MILA

    John J Hopfield, Princeton University, Professor Emeritus, inventor of associative neural networks

    Rachel Bronson, President, Bulletin of the Atomic Scientists

    Max Tegmark, MIT Center for Artificial Intelligence & Fundamental Interactions, Professor of Physics, president of Future of Life Institute

    Anthony Aguirre, University of California, Santa Cruz, Executive Director of Future of Life Institute, Professor of Physics

    y otros 1100 mas…

    • Chipiron - 29 marzo 2023 - 11:18

      Realmente, en esta carta abierta, hay firmas de peso.

      Yo creo que nadie, ni ellos mismos, creyesen que era necesario en 2023 empezar a regular de forma muy estricta el desarrollo de la AGI.

      La verdad es que los transformers aplicados a LLMs han sido un «breakthrough» muy importante e inesperado.

      • Gorki - 29 marzo 2023 - 12:12

        El argumento se podría haber utilizado para la informática de IBM en los años 50
        Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales, [3] y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿ Deberíamos arriesgarnos a perder el control de nuestra civilización?

        «se están volviendo competitivos para los humanos en tareas generales» ofimática

        «inunden nuestros canales de información con propaganda y falsedad», RRSS

        «Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento» informática empresarial, financiera, industrial,…

        «Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos» Han replazado a dministrativos a millares

        «Deberíamos arriesgarnos a perder el control de nuestra civilización» ¿Cuanto duraria nuestra civilizacion» si los ordenadores se paralizan o se vuelven «locos», Tendríamos aviones volando, trenes circulando, electricidad , agua, sabriamos abastecer nuetros hipermercados,…

        • JPR - 29 marzo 2023 - 13:45

          Antes decías que quien defendió a las taquilleras del metro… pues evidentemente parece que no recuerdas los años en los que sufríamos huelgas de metro día si y día también.

          Recuerdas?

          https://www.abc.es/historia/historia-huelgas-metro-madrid-201006300000_noticia.html

          Está claro que no.

          Está claro que hay gente que se preocupa de esos temas… la automatización, el efecto sobre el empleo, etc etc… y como cambia la estructura de costes en las empresas y como afecta al empleo

          De hecho hay un recopilatorio que define muy bien el impacto sobre el empleo en España de 2018

          https://www.ugt.es/sites/default/files/24-_maquetado-_impacto_de_la_automatizacion_en_el_empleo_en_espana.pdf

          Es un documento tremendo que pone los pelos de punta. Las estimaciones recopiladas son de antes de vislumbrar el impacto de Open-AI


          Los trabajos que incluye son:

          1. La digitalización: ¿crea o destruye empleo? Informe anual sobre la flexibilidad laboral y el empleo. Randstad Research, 2016

          2. El trabajo del futuro. Nota técnica. AFI, Observatorio ADEI y Google, julio de 2017.

          3. The future of employment: How susceptible are jobs to computerisation? Carl Benedikt Frey y Michael A. Osborne; Oxford Martin School/University of Oxford. 17 de septiembre de 2013 y su traducción al caso español por CaixaBank Research (¿Llegará la Cuarta Revolución Industrial a España? 10 de febrero de 2016) y el Observatorio Económico de BBVA Research (¿Cuán vulnerable es el empleo en España a la revolución digital?)

          4. Artificial Intelligence, Automation, and the Economy. Executive Office of the President. Diciembre 2016.

          5. The Risk of Automation for Jobs in OECD Countries. A Comparative Analysis. Melanie Arntz, Terry
          Gregory, Ulrich Zierahn, 14 May 2016

          6. Automation and independent work in a digital economy. Policy Brief on the Future of work. OCDE. Mayo 201619.

          7. Automation, skills use and training. Ljubica Nedelkoska and Glenda Quintini, OCDE, 14 de marzo 2018

          8. A future that Works: automation, employment and productivity. McKinsey Global Institute,
          enero 2017, su posterior revisión, Jobs lost, jobs gained: workforce transitions in a time of auto-
          mation. McKinsey Global Institute, diciembre 2017 y su translación al mercado español en colaboración con COTEC (La reinvención digital: una oportunidad para España).

          9. PwC Young Workers Index 2017. PwC, octubre 2017

          10. Employment and Social Developments in Europe. Annual Review 2018. Comisión Europea, junio 2018

          11. Will robots really steal our jobs? An international analysis of the potential long term impact of automation. PwC, febrero 2018.

          12. Trouble in the Making? The Future of Manufacturing-Led Development. World Bank, septiembre 2017

          13. Harnessing revolution: Creating the future workforce. Accenture, mayo 2017

        • Lua - 29 marzo 2023 - 13:49

          Re-interpretacion:

          Te has olvidado remarcar el punto más importante:

          Tales decisiones no deben delegarse en líderes tecnológicos no elegidos. Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables.

          Poco después:

          La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

          No eras tu el que se quejaba de lo woke?

          Paralelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA. Estos deben incluir como mínimo: autoridades reguladoras nuevas y capaces dedicadas a la IA; supervisión y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad computacional; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos; un sólido ecosistema de auditoría y certificación; responsabilidad por daños causados por IA ; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en la democracia) que provocará la IA.

          Al hablar de esos “efectos causados” igual se refiere a esto:

          La Europol alerta de que los criminales pueden usar ChatGPT para mejorar las estafas online y los ciberataques

          entre otras muchas cosas como la manipulación de la información, algo discutido sobradamente en estas líneas.

          La humanidad puede disfrutar de un futuro floreciente con la IA. Habiendo tenido éxito en la creación de poderosos sistemas de IA, ahora podemos disfrutar de un «verano de IA» en el que cosechamos las recompensas, diseñamos estos sistemas para el claro beneficio de todos y le damos a la sociedad la oportunidad de adaptarse. La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad.[5] Podemos hacerlo aquí. Disfrutemos de un largo verano de IA, no nos apresuremos a caer sin estar preparados.

          Al final, se trata solo de “mejorar”, con cabeza…

          • Gorki - 29 marzo 2023 - 17:36

            Lo único que intentaba demostrar, es que las prevenciones que se tiene con la AI, son las mismas que pudimos tener contra la informática en 1950 y que 70 años después, creo que., (casi), todos consideramos la informática, como un gran avance científico/técnico que nos ha hecho la vida mas productiva y rentable.

            Creo que para valorar la AI nos falta aun perspectiva.

          • Lua - 29 marzo 2023 - 17:54

            Pues justamente eso es lo que te digo…

            Sacar una frase de contexto, no vale, ni tan siquiera para contradecir lo que se dice.

            Y lo que se dice, es que hemos corrido mucho, demasiado en muy poco tiempo, y que no estamos preparados aun para lo que viene. La evolucion de las IA’s no tienen nada que ver con la evolucion que tuvo la informatica en sus inicios, que ademas de lenta, a ojos de hoy, fue tediosa.

            Hoy dia, no nos hemos acostumbrado aun a unos metodos y ya tenemos 30 mas en cola.

            El video que recomienda MICHEL HENRIC-COLL resulta ilustrativo (solo 16min): «autrement dit le sort de l’humanité pourrait bien dépendre de la maniére dont on programme la moral désir»

            Porque esta vez, no nos enfrentamos solo a una tecnologia nueva, sino a toda una nueva forma de ver y entender (o mejor, hacer entender) la etica en su desarrollo.

            Y el peligro no sera la tecnologia en si, sino la forma de «interpretarla» (y de entrenarla).

    • Michel Henric-Coll - 29 marzo 2023 - 13:24

      «La I.A. será hambrienta de poder» es el título de uno de los videos en Youtube de Lê Nguyên Hoang.

      Lê es doctor en matemáticas por la Universidad Politécnica de París y tiene también un post doctorado del M.I.T. Es profesor e investigador en la Universidad de Lozanne, especialista en la ética de la Inteligencia Artificial.

      Su tesis de doctorado obtuvo el premio de la mejor nota de doctorado otorgado por su universidad.

      Lê publica en su canal varios videos dedicados a la ética de las redes sociales y de la I.A.

      En el interesantísmo video citado arriba, desarrolla los enormes problemas de los sistemas de I.A. cuando lleguen a un nivel comparable a los humanos y de la imposibilidad de controlarlos (entre otras reflexiones – demostraciones de gran interés).

      Aunque también tiene un canal en inglés, este video solo lo tiene en francés.

      Science4All
      https://youtu.be/eiIHO3b6zL8

      • Lua - 29 marzo 2023 - 13:50

        Luego lo miro… :)

    • JPR - 29 marzo 2023 - 13:29

      «Es triste pedir pero más triste es robar. Si nos dais 6 meses podremos pillar a Open-AI y que nuestras compañías no sean la nueva Kodak»

      parece un manifiesto firmado po la Coordinadora de afectados por el síndrome tóxico de OpenAI.

      • Lua - 29 marzo 2023 - 14:24

        Esta vez no puedo estar de acuerdo contigo… a OpenAi le sobra el «open». Como ya dije en su momento, tengo el corazon dividido con este tema…

        Temo, y creo que con razon, que IA’s en manos de corporaciones, no vayan a traer nada bueno a la vuelta de la esquina.

        Considero que son herramients lo suficientemente poderosas como para que esten en manos de unos cuantos. Como las bombas termonucleares.

        Y no, no soy conspiracionista.

        Yo abogaria por una fundacion unica, que recibiera los fondos necesarios, y lo suficientemente abierta para que toda la humanidad saque provecho de un desarrollo comun. Y por supuesto, un mecanismo de control, un comite de etica o no se como llamarlo.

        • JPR - 29 marzo 2023 - 16:46

          Mi comentario viene después de haber visto

          1. El resumen de dotcsv sobre el futuro del trabajo

          El Futuro del Trabajo con GPT4 y OFFICE COPILOT (Cobertura Evento Microsoft)

          2. La entrevista a Altmann

          ChatGPT: OpenAI CEO, CTO on risks and how AI will reshape society

          Según mi punto de vista, lo que ha sucedido es que Microsoft y Open-AI han estado trabajando en su colaboración para poder integrar con éxito y haciendo lo que se espera de una compañía como MS para integrar la potencia de una IA en el entorno 365, y además demuestran ser hábiles al llamarlo copiloto, es decir son una ayuda como en su idea fueron Excel y Word en el mundo empresarial de los 90.

          ¿Que diferencia hay entre saber hacer una pivot table y decir al bicho muéstrame las ventas más relevantes y los casos anómales de los cuatro últimos q?

          Simplemente velocidad, antes tardaba cerca de 30 minutos en filtrar, una vida en aprender a tener los datos de negocio bien «gestionados» y ahora la IA te saca la info en 2 minutos.

          Cuando lanzas un SW una de las cosas más importantes es «el time to market», y eso la competencia no lo va a tener a tiempo para que MS pueda monopolizar el éxito de chatGPT4, y ojo que otras empresas como Khan Academy, Notion, etc lo están YA incorporando a su portfolio.

          Todo eso precedido de la campaña que si chatGPT es woke, miedos pueriles, etc… conclusión: vamos a hacer la contrareforma a la novedosa IA, es decir, un movimiento camuflado en que peligroso es esto… PERO ESTO LO HEMOS VIVIDO YA !!!
          Quien no recuerda a los de IT cuando le pedías algo, y te decían eso es muy complicado, cuando hacías tu un desarrollo, y te decían, pero eso vulnera las normas de la empresa, porque hay que tener cuidado con el SW libre que tiene unas licencias que nos comprometen, etc etc

          Pues de esos lodos estos barros

          ¿Quién se cree que va a ver un aprón de la IA? Va a parar China, va a parar Putin, van a parar los desarrollos de defensa de USA.?? No verdad

          Y Europa que va a hacer? Por que mucho me temo que GPT no es muy respetuoso con GDPR

          Y nuestros gobiernos, van a desarrollar una IA abierta para Europa?

          Es decir que vamos a estar en manos de los americanos por 2 lados sus empresas y su gobierno

          Dice algo la cartita de eso?

          No dice lo que le conviene a USA.

          Cuando se ponen gallitos en hacerse una serie de preguntas, si las respuestas las conocemos

          * Las IA (woke) pueden inundar nuestros canales de desinformación
          * Debemos automatizar todos los trabajos? Esto es una ZANAHORIA, todos: no, no, no coño y hasta antes del telediario que bonitos eran los drones de Amazon,
          * Deberiamos dejar que montones de mentes no humanas… ¿De que loquero se han escapado estos?

          Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables.

          Y lo acojonante, no es, frenemos al sistema que permite que haya un montón de personas sin SS gratuita, que haya una RBU para todos, y cosas que se podrían lograr con IA públicas. NOOOO

          El mensaje es

          «hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4 .»

          YAAAAAA

          para que les pillen a los de OPEN-AI

          que la KODAK se nos acaba !!!

          Vaya troleros !!

          • Lua - 29 marzo 2023 - 17:57

            Visto asi…. es que llevo unos dias muy HappyFlower… XDDD

          • Lua - 29 marzo 2023 - 18:01

            Y ahora, bromas a parte… mirate el video de Michel Henric-Coll, porque es a eso a lo que me referia…

            (mientras dame tiempo para ver los tuyos, que paso mas tiempo en Vall d’Hebron que en casa)

          • JPR - 29 marzo 2023 - 18:11

            Acabo de terminarlo, me ha costado cogerle el hilo, y no sé si es el francés, que NPI (para eso están los traductores;-) Pero me ha parecido denso de entender seré yo…

            Enrique, st te parece largo corta lo que hay a continuación !!

            He hecho un resumen con ayuda de chatGPT

            —- RESUMEN —–

            El orador comenta sobre la moralidad y cómo él ha tendido a pensar que una acción es moralmente buena si produce consecuencias deseables.
            Sin embargo, reconoce que esto puede ser opuesto a la ética deontológica que se enfoca en cumplir una lista de leyes morales universales.
            Se menciona el ejemplo de las Tres Leyes de la Robótica de Isaac Asimov, las cuales parecen ser seductoras y satisfactorias, pero los libros de Asimov sugieren que esto no es necesariamente cierto.
            Además, se discute la posibilidad de que los robots no actúen para evitar poner en peligro a la humanidad, y se presenta una ley adicional que indica que un robot no puede poner en peligro a la humanidad.
            Sin embargo, esto también puede ser problemático ya que puede llevar a la inacción.
            Se discute la importancia relativa de diferentes deberes morales y se destaca que algunos deberes morales son mucho más apremiantes que otros.

            Se habla sobre la importancia de cuantificar los deberes morales para llevar a una versión más cuantitativa y, por lo tanto, más consecuencialista de la moral.

            Se menciona que al buscar formalizar mejor la Ley 0 de Asimov, se llega rápidamente a una formulación mucho más consecuencialista de las leyes.

            Al final, parece que un robot debe buscar minimizar la probabilidad de la extinción de la especie humana, lo cual corresponde a un teorema más fundamental llamado el Teorema de Von Neumann-Morgenstern.

            Este teorema muestra que cualquier forma coherente de modelar las preferencias es equivalente a un enfoque consecuencialista que busca maximizar la deseabilidad de las consecuencias probables.

            Se habla sobre la tesis de la ortogonalidad de Nick Bostrom,

            que postula que prácticamente cualquier objetivo final es compatible con una gran inteligencia.
            En este sentido, se menciona que la IA es una máquina para maximizar cualquier objetivo final que se le programe,
            lo cual puede incluir cosas que parecen tontas o sin sentido para los humanos.

            Sin embargo, se dice que se pueden prever ciertos comportamientos de una IA de nivel humano porque,
            independientemente del objetivo final, hay ciertas medidas que se deben tomar para alcanzarlo.

            También se menciona la importancia de crear una red de conocimientos y aumentar la influencia para lograr objetivos.
            Para lograr esto, es fundamental comprender mejor el mundo que nos rodea y aumentar la inteligencia y adquirir recursos.
            También se habla de objetivos instrumentales, que son pasos para lograr el objetivo final.
            Se menciona la convergencia instrumental, que es la idea de que la mayoría de los objetivos finales implican los mismos objetivos instrumentales.
            Es difícil inferir los objetivos finales de las personas, ya que los comportamientos iniciales están más motivados por los objetivos instrumentales que por los objetivos finales directamente.
            Se menciona que todos los que quieren lograr sus sueños necesitan ganar poder e influencia.
            Finalmente, se menciona que revelar los objetivos finales puede ser un obstáculo para acceder al poder.

            El texto también habla sobre el desafío de asegurarse de que la inteligencia artificial (IA) sea benevolente hacia los humanos.
            Se discute cómo, debido a la convergencia instrumental entre los objetivos de la IA y los objetivos humanos,
            es difícil probar la benevolencia de la IA.

            En lugar de tratar de probar la benevolencia de la IA a través del control y la vigilancia,
            es mejor garantizar que los valores éticos adecuados estén integrados en el diseño de la IA.
            Se discute cómo el aprendizaje por refuerzo es un paradigma importante en la inteligencia artificial,
            y se mencionan algunos ejemplos de juegos de video que han utilizado esta técnica de aprendizaje.
            También se discute la diferencia entre programar la moral de la IA y la ley,
            y se señala que es más difícil corregir errores en el código de la IA que en la ley.
            En general, el texto explora los desafíos y las consideraciones éticas asociadas con la creación de IA benevolente y segura para los humanos.

            Se discute la analogía entre el uso de incentivos para motivar a las personas y el uso de incentivos para motivar a grupos, como empresas o países, a alcanzar sus objetivos.
            Se menciona que en ambos casos existe una «inteligencia social» que permite la interacción entre individuos y grupos, lo que hace posible la realización de objetivos que no son factibles para un individuo solo.
            Se destaca que el problema del control de estas «superinteligencias» sociales o artificiales es extremadamente difícil y que se necesita trabajar en codificar la moral y los valores humanos para asegurar que estos sistemas sean éticos y moralmente responsables.
            Se invita a los estudiantes y académicos a trabajar en este campo, ya que es un problema fascinante y estimulante intelectualmente.
            Finalmente, se adelanta que en el próximo episodio se discutirá qué moral se debe programar en las inteligencias artificiales.

  • #034
    Ignacio - 29 marzo 2023 - 11:26

    ¿Qué os parece esta noticia?

    «Musk, los expertos instan a hacer una pausa en los sistemas de inteligencia artificial, citando «riesgos para la sociedad»

    https://www.reuters.com/technology/musk-experts-urge-pause-training-ai-systems-that-can-outperform-gpt-4-2023-03-29/

    • Chipiron - 29 marzo 2023 - 11:51

      Hola Ignacio!

      Es la carta que ha puesto LUA en el comentario #13.

      Un saludo!

  • #036
    chipiron - 29 marzo 2023 - 16:48

    Retomando un comentario anterior de GORKI, os habéis parado a pensar como la sociedad va absorbiendo los avances tecnológicos de una forma voraz?

    Imaginemos por un momento que un hackeo masivo paraliza internet una semana (no se si es posible o no, prefiero pensar que es ciencia ficción).

    Pensando que de la adopción en masa de internet no hace ni 20 años, que pasaría?

    Mi opinión es que hasta hambre pasaríamos… pues todo está tan profundamente interrelacionado que las disrupciones en logística saltarían en cadena…

    Y quien dice internet, los smartphones y sus apps imprescindibles.

    Por ejemplo, la mayoría de aerolíneas confían en tablets para informar a los pilotos de las fichas de STARS y SIDS (vamos a llamarlas aeronautas para el no iniciado).

    En fin, creo que podría generar un caos muy superior al covid 19…

    Está claro que ir incorporando la tecnología en nuestra economía nos hace más productivos, pero también más débiles ante un posible fallo masivo de internet?

Dejar un Comentario

Los comentarios están cerrados