Inteligencia artificial contra estupidez natural…

IMAGE: OpenAI's DALL·E, via ChatGPT

Un estudio publicado en Science, «Durably reducing conspiracy beliefs through dialogues with AI« llevado a cabo sobre 2,190 norteamericanos autodeclarados seguidores de una serie de teorías de la conspiración completamente absurdas, demuestra que la interacción con un chatbot de inteligencia artificial sobre el tema reducía significativamente la fuerza de esas creencias, y que ese efecto se prolongaba incluso dos meses después.

El secreto del éxito: el chatbot, con su capacidad para acceder a cantidades masivas de información sobre una enorme variedad de temas, era capaz de adaptar con precisión sus contraargumentos para cada individuo.

Más del 50% de los norteamericanos afirma creer en al menos una de las llamadas «teorías de la conspiración», explicaciones extravagantes para un evento o situación que afirman la existencia de una conspiración por parte de grupos poderosos y siniestros, a menudo con motivaciones políticas. Por lo general, esos individuos tienden a convertir esas teorías que creen que dan soporte a alguna de sus creencias en una parte fundamental de su esquema vital o cosmovisión, de los cimientos del edificio que soporta sus creencias, y a reaccionar de manera exacerbada o incluso violenta cuando esas teorías se ven amenazadas o desafiadas.

Es el llamado backfire effect, o perseverancia de las creencias, que los lleva a mantener una creencia a pesar de la disponibilidad de nueva información que la contradice firmemente. De lo mejor que he visto para explicar este tipo de cuestiones es este largo cómic de The Oatmeal, «You are not going to believe what I’m about to tell you«, que llevo bastantes años utilizando al principio de todos mis cursos.

Las teorías de la conspiración varían mucho de una persona a otra, son bastante heterogéneas y los intentos de desacreditarlas en los que se intenta argumentar ampliamente en contra de una teoría de la conspiración no suelen ser efectivos, porque las víctimas de esas teorías suelen tener diferentes versiones de esa conspiración en sus cabezas. Por el contrario, un chatbot de inteligencia artificial, además de dificultar el desarrollo de reacciones agresivas o de perseverancia de las creencias, puede adaptar los esfuerzos de desacreditación a todas esas diferentes versiones de una conspiración. Por lo tanto, en teoría, un chatbot podría resultar más eficaz para disuadir a alguien de su teoría de la conspiración favorita, y a hacerlo, además, de manera sostenible en el tiempo.

Para poner a prueba su hipótesis, los investigadores crearon un chatbot especializado en teorías de la conspiración, DebunkBot, y llevaron a cabo una serie de experimentos con 2,190 participantes que creían en una o más de esas teorías de la conspiración. Los participantes mantuvieron varias «conversaciones» personales con un ese LLM (desarrollado con GT-4 Turbo) en las que compartieron su teoría de la conspiración favorita y las pruebas que, según su opinión, respaldaban esa creencia. El LLM respondía ofreciendo contraargumentos basados ​​en hechos y evidencias, adaptados a cada participante en particular. Las respuestas del LLM fueron sometidas a una verificación profesional, lo que demostró que el 99,2% de las afirmaciones que hacía eran ciertas, mientras que solo el 0,8% fueron calificadas como engañosas, y ninguna de ellas como falsa.

Los participantes respondieron a un conjunto de preguntas sobre su teoría de la conspiración favorita antes y después de sus diálogos con el chatbot, que duraron unos ocho minutos en promedio. Estos diálogos específicos dieron como resultado una disminución del 20% en las creencias erróneas de los participantes, una reducción que, además, persistió incluso dos meses después, cuando los participantes fueron sometidos a una nueva evaluación.

El desarrollo de teorías de la conspiración y su soporte por parte de amplios niveles de la población son uno de los aspectos más preocupantes de la hiperabundancia de información y de la desinformación en general. Ahora podemos empezar a entender que mientras tengamos inteligencia artificial, podemos seguir manteniendo la esperanza de que esas teorías de la conspiración, que hace no tanto tiempo eran simplemente consideradas como una prueba de ignorancia o de estupidez, puedan llegar a confinarse en segmentos de la población puramente residuales, debidos simplemente a la ignorancia, la incultura o la enfermedad mental. Mientras hay IA, hay esperanza: la inteligencia artificial pueda llegar a vencer a la estupidez natural. Algo es algo.


This article is also available in English on my Medium page, «How artificial intelligence is overcoming natural stupidity«

24 comentarios

  • #001
    Gorki - 13 septiembre 2024 - 17:31

    Este no es mi Dans que me lo han cambiado., Es un bot en pruebas de IE Business School, no habla del evento anual de Apple y la presentación del asombroso iPhone 16 ya no le parece el nuevo mesías Elon Musk, aunque pasee millonarios en el vacío interestelar.

    Responder
    • Gorki - 13 septiembre 2024 - 17:35

      Esta es la conspiración, (completamente absurda). en la que creo y espero que el chatbot de IE, me intente contraargumentar.

      Responder
      • Enrique Dans - 13 septiembre 2024 - 17:40

        Enrique Dans no ha existido nunca. Es un equipo de estudiantes del IE que va cambiando todos los años y que están encadenados en un sótano de María de Molina 13, en lo que fue una antigua checa de la Guerra Civil, escribiendo a todas horas. La persona a la que estrechaste la mano en las firmas de los libros es un actor profesional.

        Responder
        • Xaquín - 13 septiembre 2024 - 18:28

          Hace veinte añitos te diría que esto es un chiste… y bastante bien montado… ahora simplemente es algo tan posible, que empezaría a considerarlo probable si lo leo dentro de diez años… y empieza a sonar demasiado resonante su hilo conductor.

          Y no quiero darle vueltas, pero lo de ser un equipo (de egos), no es precisamente conspiranoico.

          Responder
        • Gorki - 13 septiembre 2024 - 18:38

          Ya lo sabia yo, lo escribí en este blog hace un monton de años.
          ¡¡¡ A mi me vais a engañar !!!. Copio de este blog

          #012 Gorki – 31 julio 2006 – 13:55
          Enrique Dans no existe, es una ficción. es un nick colectivo formado por, «la Chica de la Tele», el «Capitan Patata» y 200 becarios del Instituto de Empresa.
          ¿Cómo es creeis que puede si no escribir una sola persona en tantos sitios a la vez?

          #013 Gorki – 31 julio 2006 – 13:56
          Por cierto, y con una sola mano

          Responder
        • Lua - 13 septiembre 2024 - 20:39

          Estoy viviendo un déjà vu XDDD

          Responder
  • #007
    Pablo - 13 septiembre 2024 - 18:29

    Un paso más en la dirección adecuada para que en un futuro tal vez no muy lejano veamos sustituidos a la caterva de políticos parlanchines por un chatbot?

    Responder
    • Gorki - 13 septiembre 2024 - 22:47

      Probablemente buscarán soluciones sensatas a los problemas, o si no tienen solución, dirán al menos mentiras mas creíbles.

      Responder
  • #009
    Xaquín - 13 septiembre 2024 - 18:48

    «El desarrollo de teorías de la conspiración y su soporte por parte de amplios niveles de la población son uno de los aspectos más preocupantes de la hi… » (EDans).

    Yo pondría al final historia y me quedaría tan pancho.

    Porque si no me equivoco, y dejando a los sumerios y demás antecesores afuera, en la llamada Biblia Cristiana, que realmente en su primera parte es simplemente Abrahámica (las tres grandes religiones la abrazan)… tenemos una de las conspiraciones mejor trabajadas de la historia. Y, por eso, lo de la historia anterior…como final de frase… y lo de los sumerios, que fueron mucho más humanos que los siguientes (creyentes)

    Porque si inventar que patatín y patatán no tiene mucho de aventuras alienígenas, aunque se les llame fariseos, que venga cualquier dios que parecen existir sobre el planeta y nos lo diga… incluso en arameo!!!

    Y es que adorar a la mediocre IH que tenemos en prácticas, para despreciar a una naciente IA.. y la pobre naturaleza que la generó (la IH), quizás con demasiadas ínfulas… tiene algo de conspiranoico.

    Llamar conspiranoicos a los trumpistas que ven haitianos comiendo gatos por las calles o vírgenes aparecidas en cualquier desierto/selva americano… es de juzgado de guardia intelectual. Y como si el gato y el conejo fueran tan diferentes… ¡cómo se estarán riendo los chinos del amigo Trump!

    Es que realmente con los adoradores de cruces y milagros varios, así como de himnos y banderas, que nos apabullan a diario… tiene coña que le intentemos sacar los colores a quién simplemente duda de la redondez terrestre o de que las tetas de tal artista no son pura silicona.

    Ya lo dijo claramente un tal Jesús… el que esté libre de pecado…

    Responder
  • #010
    Gorki - 13 septiembre 2024 - 18:50

    Ahora en serio, Sabes algo OpenAI O1-Mini. ¿En que consiste el que pueda razonar?

    Este tema si que puede dar lugar a todo tipo de teorías de la conspiración, Veo a los ricos/poderosos reunidos en el Club Bilderberg, consultado al OpenAI O1-Super, que tiene que hacer para el DOMINIO MUNDIAL

    Responder
  • #011
    Juan T. - 13 septiembre 2024 - 19:02

    Es muy sencillo .

    La gente mas informada del mundo sabe que no sabe nada.

    Un conspiranoico es el que , sin haber leido un libro en su vida, ve al iluminao de turno en Youtube y te dice que tienes que despertar, que estas dormido, y se la trae al pairo la cantidad de información documentada con la que le quieras rebatir.

    Solución , en cuanto los detectes cambia de tema o pírate.

    Ya sabes , no es mas burro el que sabe menos, si no el que discute con burros.

    Responder
  • #014
    Arcadi - 13 septiembre 2024 - 21:51

    Si, la inteligencia artificial puede ayudar a quienes creen en teorías de la conspiración a ver sus ideas refutadas con argumentos objetivos y bien fundamentados, pero también podría ser utilizada para hacer lo contrario. Una IA puede ser instruida para apoyar y alimentar estas teorías, proporcionando argumentos manipulados que convenzan aún más a sus seguidores. El hecho de que ahora las IA sean opbjetivas y se basen en datos verificados no significa que no puedan entrenarse para generar información falsa, como ya hemos visto con las fake news. Podrían crear imágenes, videos, e incluso ‘pruebas’ para respaldar teorías conspiranoicas. Son una un arma de doble filo. La IA puede tanto desmontar como alimentar teorías, dependiendo de quién la programe y con qué objetivo.

    Responder
    • Gorki - 14 septiembre 2024 - 00:26

      Evidentemente y eso es lo que me preocupa, Actualmente se les pone «barreras» para no resultar racistas, sexista, etc. etc. Cierto es que los mas creativos consiguen hacer prompts que hacen que las AI se salten esas barreras, razón por la cual sabemos que existen, (aquellas imágenes de papisas, papas negros, etc… que demostraban una «educación» multi racial y de género) y que son puestas con esa intención. Pero igual que se ponen barreras antisex, se pueden poner directrices para que sean neolibrales, progresistas, veganos, woke, luteranos, … o lo que quieras,

      El problema es , cuales son las orientaciones de sus constructores/instructores y en segundo lugar ¿Sabremos detectar esos sesgos ideológicos?

      Mi opinión es que cuando sean suficientemente inteligentes, sabrán disimular tan bien, que no nos enteraremos

      Responder
  • #016
    pedro - 13 septiembre 2024 - 23:20

    Un poder de convicción tan grande conlleva una gran responsabilidad.

    OpenAI está financiada por potentes inversores que en algún momento querrán recuperar su inversión ¿Damos por hecho que no va a haber enshittification? ¿Cómo se decía? ¿Don’t be evil?

    Responder
    • Gorki - 14 septiembre 2024 - 00:31

      Con seguridad poco a poco irán degenerando, como le ha pasado al buscador, «Money is money»

      Responder
  • #018
    Mauricio - 14 septiembre 2024 - 01:40

    Cuando Donald Trump dijo que había inmigrantes que comían mascotas, lo más probable es que la mayoría de los que comentan por aquí pensaron que el polémico expresidente estaba sencillamente loco. Pero cuando yo escuché lo que él había afirmado, pensé: «¡Oh no! Trump va a empezar a hablar mal de los ecuatorianos.»

    Sobre la estupidez y las teorías de la conspiración sería posible escribir infinidad de páginas, pero lo importante es darse cuenta de que todos podemos en algún momento tropezar y creer que algo es cierto o falso sencillamente por falta de suficiente información y, de manera equivalente, el mentiroso más peligroso es el bien informado, porque su capacidad de hacer pasar por cierta una historia falsa se multiplica.

    El cuy o conejillo de Indias forma parte de la alimentación de la gente de los Andes desde mucho antes de que existiera el Tawantinsuyu y todavía lo consumen muchos ecuatorianos, peruanos y bolivianos de la zona andina hasta la actualidad. Seguro que nadie por aquí ha oído hablar de platos de la cocina peruana como el cuy chactado o el picante de cuy. Dichos guinea pigs, como son conocidos en inglés, son efectivamente mascotas en Europa o Estados Unidos, pero en los Andes centrales son una importante fuente de proteínas, principalmente en las zonas indígenas. Los ataques de Trump se han dirigido sin ninguna evidencia hacia los haitianos que viven en Springfield (Ohio), quienes supuestamente estarían comiendo mascotas como perros y gatos, y, afortunadamente, el expresidente parece no haberse enterado de que hay algunas personas que en sus países comen guinea pigs ya que, a lo mejor, hubiera utilizado esta información para meter más leña al fuego.

    A veces la realidad supera a la ficción, esto tampoco hay que olvidarlo. Sin embargo, jamás he oído que algún ecuatoriano haya robado un guinea pig con fines alimenticios y seguro que los haitianos que viven en Ohio tampoco se están comiendo las mascotas. En un mundo donde todos tienden a rendirse ante las sagradas opiniones de los europeos y norteamericanos, los alimentos que se alejan de la norma dominante tienden a ser cada vez menos consumidos, por lo que sería muy raro que un inmigrante cometiera un delito con el propósito de comer algo que incluso en su propio país es cuestionado. Y esto nos lleva también a otro punto, el discurso dominante impone su verdad y a los que carecen de poder no les queda más que agachar la cabeza, dejar de lado sus preferencias y tragarse sus opiniones.

    Responder
  • #019
    f3r - 14 septiembre 2024 - 11:31

    Todo esto está muy bien, y soy un gran aficionado a coleccionar nuevas teorías de la conspiración, como la de que el océano no tiene fondo (www.bottomlessocean.com), etc.

    El problema es que, a medida que te acercas a los sucesos más importantes de la historia, empieza a haber un hueco de información que nunca estará disponible, en manos de poquísimas personas que luego se mueren y se llevan para siempre esa información, y que son la única manera de explicar ciertos eventos clave de la historia planetaria.

    Las personas más inteligentes lo ven como absolutamente obvio, y saben que esos actos secretos se cuecen entre los adeptos del satanás real que habita el mundo. La gente de inteligencia media se ríe de los pobres imbéciles que se creen lo del océano sin fondo, pero también se ríen de los que son más inteligentes, calificándolos de paranoicos.
    ¿Qué va a hacer la AI respecto a esto?

    ¿Qué diría esta AI sobre la destrucción de Nordstream 2? ¿Que rechaces cualquier teoría que no sea que lo hicieron los rusos? ¿Qué diría sobre las armas de Irak antes de la invasión? ¿Y de 2014 en Ucrania? En fin, creo que se entiende por dónde voy

    Responder
    • Lua - 14 septiembre 2024 - 14:45
      • f3r - 15 septiembre 2024 - 12:05

        LUA, por favor explica tu fundamental contribución, ya que estoy tan por debajo de tu inteligencia que ni siquiera veo la conexión…

        Responder
        • Lua - 15 septiembre 2024 - 17:42

          Pues igual si sera eso… porque tu hablas de teorias de la conspiracion y yo te ofrezco una… XDD

          Responder
  • #023
    Michel Henric-Coll - 14 septiembre 2024 - 15:37

    Podría ser interesante aplicar el DebunkBot a las creencias religiosas (que conste que no he citado a ninguna en particular. Y a todas).

    Responder
  • #024
    Nacho Blanco - 15 septiembre 2024 - 13:29

    «segmentos de la población puramente residuales, debidos simplemente a la ignorancia, la incultura o la enfermedad mental. Mientras hay IA, hay esperanza: la inteligencia artificial pueda llegar a vencer a la estupidez natural».

    Hay personas muy formadas, nada incultas y de segmentos económicos altos que creen en homeopatía, ciencias y religiones mágicas, naves espaciales, energías y cospiranoias variadas

    Responder

Dejar un Comentario

Los comentarios en esta página están moderados, no aparecerán inmediatamente en la página al ser enviados. Evita, por favor, las descalificaciones personales, los comentarios maleducados, los ataques directos o ridiculizaciones personales, o los calificativos insultantes de cualquier tipo, sean dirigidos al autor de la página o a cualquier otro comentarista. Estás en tu perfecto derecho de comentar anónimamente, pero por favor, no utilices el anonimato para decirles a las personas cosas que no les dirías en caso de tenerlas delante. Intenta mantener un ambiente agradable en el que las personas puedan comentar sin temor a sentirse insultados o descalificados. No comentes de manera repetitiva sobre un mismo tema, y mucho menos con varias identidades (astroturfing) o suplantando a otros comentaristas. Los comentarios que incumplan esas normas básicas serán eliminados.

 

XHTML: Puedes utilizar estas etiquetas: A ABBR ACRONYM B BLOCKQUOTE CITE CODE DEL EM I Q STRIKE STRONG IMG