Hace poco más de tres años, Geoffrey Hinton abandonó Google y lanzó una advertencia que ocupó titulares en todo el mundo: el desarrollo de la inteligencia artificial avanzaba demasiado deprisa y era necesario plantearse algún tipo de moratoria o pausa para comprender mejor sus riesgos. Escribí entonces sobre ello, porque procedía de una de las personas que más había contribuido a hacer posible esa misma tecnología.
¿Qué ocurrió después? Exactamente lo que cabía esperar: nada. No hubo moratoria. No hubo desaceleración. No hubo ni la más mínima aproximación o posibilidad de ningún consenso internacional al respecto. De hecho, ocurrió justamente lo contrario: la inversión se disparó, aparecieron nuevos modelos, aumentó la competencia entre empresas y países, y la velocidad de desarrollo se aceleró hasta niveles que en aquel momento parecían imposibles.
Ahora es Anthropic quien vuelve a plantear esencialmente la misma cuestión. Según un reciente documento del Anthropic Institute de la compañía, y según las declaraciones de algunos de sus responsables, la posibilidad de una desaceleración global coordinada del desarrollo de la inteligencia artificial sería deseable para ganar tiempo en investigación sobre seguridad, gobernanza y alineamiento. El detonante es la preocupación por la denominada recursive self-improvement, la posibilidad de que los sistemas lleguen a funcionar como máquinas de Gödel y comiencen a mejorar sus propias capacidades con una intervención humana cada vez menor.
La preocupación no es nueva. De hecho, forma parte del ADN intelectual de Anthropic desde su fundación. Dario Amodei lleva años advirtiendo de los riesgos potenciales de los sistemas avanzados de inteligencia artificial, al tiempo que defiende una visión extraordinariamente optimista de sus beneficios potenciales. En su ensayo «Machines of Loving Grace« sostiene que una inteligencia artificial suficientemente avanzada podría acelerar décadas de progreso científico en medicina, biología, desarrollo económico o sostenibilidad, hasta el punto de «comprimir» gran parte de los avances de este siglo en unos pocos años.
Pero precisamente ahí aparece la contradicción fundamental: si uno cree realmente que la inteligencia artificial puede curar enfermedades, acelerar el descubrimiento científico, mejorar la productividad global y generar ventajas económicas sin precedentes, ¿qué incentivos existen para detener su desarrollo?
La cuestión nunca ha sido tecnológica: es económica y geopolítica. Cuando Hinton habló de una pausa, el sector estaba compuesto por un número relativamente reducido de actores. Hoy hablamos de cientos de compañías, miles de investigadores, proyectos abiertos, laboratorios estatales, startups financiadas con miles de millones y gobiernos que consideran la inteligencia artificial un elemento central de su competitividad estratégica.
La historia de la tecnología está llena de llamamientos a la prudencia, pero también está llena de ejemplos en los que la prudencia perdió frente a los incentivos. La energía nuclear pudo ser regulada porque requiere instalaciones gigantescas, materiales escasos y una trazabilidad relativamente sencilla. Las armas biológicas son más difíciles. El software, muchísimo más. La inteligencia artificial se parece mucho más al software que a los reactores nucleares.
De hecho, la propia Anthropic reconoce el principal problema de cualquier hipotética moratoria: verificar su cumplimiento. ¿Cómo comprobar que una empresa, un laboratorio militar o un gobierno no siguen entrenando modelos mientras el resto se detiene? ¿Cómo detectar una carrera clandestina cuando los recursos necesarios para participar en ella son cada vez más accesibles?
La propia compañía utiliza una comparación reveladora: mientras que los silos de misiles pueden localizarse, los entrenamientos de modelos son mucho más fáciles de ocultar. Y, además, quien continúe desarrollando mientras los demás se detienen heredará automáticamente una ventaja competitiva gigantesca.
Ese es precisamente el núcleo del problema. Una pausa sólo funciona si todos paran. Pero para cualquier actor individual, no parar siempre resulta más atractivo que parar. Es el dilema del prisionero aplicado a la inteligencia artificial.
Y cuanto mayor es la recompensa potencial, más difícil resulta alcanzar acuerdos colectivos. Si Amodei tiene razón cuando habla de una futura «nación de genios en un centro de datos», capaz de generar descubrimientos científicos, ventajas militares o crecimiento económico extraordinario, entonces la tentación de seguir adelante será prácticamente irresistible.
Por eso estas llamadas a la pausa generan una sensación extraña. Son intelectualmente interesantes, incluso necesarias. Nos obligan a discutir riesgos que muchos prefieren ignorar. Introducen cuestiones de gobernanza que claramente no estamos abordando con suficiente profundidad. Y contribuyen a que la conversación pública no se limite a la próxima funcionalidad espectacular o al próximo récord en un benchmark. Pero como propuesta práctica tienen muy pocas posibilidades de prosperar.
La razón es sencilla: los actores que construyen inteligencia artificial compiten entre sí, pero también compiten países enteros. Estados Unidos compite con China. China compite con Estados Unidos. Europa intenta no quedarse completamente fuera de juego. India, Emiratos Árabes, Arabia Saudí y muchos otros países están invirtiendo cantidades enormes para desarrollar capacidades propias. En ese contexto, pedir una pausa global equivale a pedir un nivel de confianza internacional que ni siquiera existe en ámbitos mucho más maduros y regulados.
Lo que sí puede tener sentido no es detener el desarrollo, sino aumentar radicalmente la transparencia sobre él. Exigir auditorías independientes. Desarrollar estándares de seguridad verificables. Crear mecanismos de supervisión internacional. Obligar a divulgar capacidades y riesgos de los modelos más avanzados. Financiar investigación en alineamiento y seguridad a una escala comparable a la inversión destinada a mejorar prestaciones. Eso es difícil, pero resulta infinitamente más realista que imaginar una parada coordinada del progreso tecnológico.
Quizá la verdadera utilidad de estos llamamientos no sea conseguir la moratoria que proponen, sino recordarnos una realidad incómoda: que estamos en plena adolescencia de la tecnología, construyendo algo cuyo impacto potencial podría ser enorme mientras nuestras instituciones siguen funcionando a velocidad burocrática. Y además, compitiendo en lugar de colaborar.
Hinton intentó provocar esa conversación. Nadie le hizo demasiado caso. Ahora Anthropic vuelve a intentarlo. Probablemente tampoco consiga detener nada. Pero eso no significa necesariamente que esté equivocada.
Creo que esta frase del penúltimo párrafo resume muy bien el quid de la cuestión.
Competir puede tener sentido cuando hablamos de mercados convencionales o de recursos escasos. Pero en el caso de la inteligencia artificial avanzada, donde los beneficios potenciales podrían ser enormes para todos (en ciencia, medicina, productividad, educación o sostenibilidad), la colaboración parece mucho más racional.
Pero claro, el problema es que para colaborar de verdad hay que confiar en el adversario. Y ahí aparece la trampa: si todos se detienen menos uno, ese uno obtiene una ventaja gigantesca. Por eso la pausa global parece deseable en abstracto, pero casi imposible en la práctica.
Quizá la cuestión no sea tanto «pausar» como construir mecanismos verificables de transparencia, auditoría y seguridad. Menos fe en la buena voluntad de los competidores y más estructuras que hagan la colaboración mínimamente creíble.
Es utópico, Las compañías que exploran la AI estan compitiendo en una carrera de Maratón donde el premio muy probablemente solo llegue para los tres primeros que suban a podio.
¿Crees que tendria exito decir a los corredores de Maratón, «bajar todos el ritmo, que corremos el riesgo de te arminar echando los higadillos»? El que se ha embarcado en esta aventura, no ve mas que la posibilidad de subirse al podio, aunque muchos se dejen la vida en el intento.
Se está construyendo algo que podría tener un impacto potencial enorme, mientras las instituciones van a velocidad burocrática… y mientras nuestros cerebros siguen siendo los mismos que hace dos mil años.
Por naturaleza yo diría que aquí nadie va a parar hasta que se sienta realmente amenazado y, teniendo en cuenta que estos avances están siendo liderados en muchos casos por sociopatas… hasta que no pase algo gordo de verdad aquí nadie va a mover un dedo.
El reciente vídeo publicado por Cold Fusión en YouTube realmente me ha dejado tocado. Lo de Palantir debería tener a medio mundo en alerta roja.
Como acertadamente publicó anteriormente @EDans, cuando hablamos de Inteligencia Artificial, estamos hablando de Poder. Todo debate adicional, se sitúa en segundo plano.
Para redirigir o redefinir el objetivo principal de la tecnología, primero hay que reformar las instituciones y el derecho internacional. Dado este paso inicial, se abrirá un espacio para que se asienten las bases necesarias para reformas políticas, económicas y sociales. Fuera de ese marco, la inteligencia artificial seguirá siendo un instrumento al servicio del sistema de intereses particulares vigente.
Y aunque China no puede librarse del dilema del prisionero a escala global, a nivel nacional da un nuevo paso adelante con AI + Education. Mientras tanto, los actores tecnológicos del imperio siguen su competencia frenética, derrochando recursos, en aras de conseguir la supremacía económica y política en su esfera de influencia, dando la espalda a su sociedad.
El dilema es mas bien este:
Para los ya convencidos de que, «como el hombre es un lobo para el hombre y siempre lo será, para lobo yo», como Peter Thiel y compañia, una desaceleración sería vista como una oportunidad para ellos para adelantar al resto y tener una primacía en una IA al servicio de la dominacion y la subyugación.
Alguien puede alegar que los gobiernos los pongan en cintura, pero ¿serían por casualidad los gobiernos pertenecientes a la ola ultraderechista mundial los que lo harían?.
¿Alquien por que Thiel se ha comprado una mansion de 12 millones de dolares en Argentina?
¿Alquien sabe que está hablando con Milei?
O mejor , al revés..¿a alguien le queda la mas minima duda de lo que se proponen?