La parafernalia que se ha organizado en torno a las declaraciones de los líderes de las compañías de inteligencia artificial norteamericanas diciendo que ven hasta recomendable una pausa pero no planteándose hacerla porque no se puede controlar que la hagan todos, con China diciendo que se ven amenazados y Donald Trump por el medio desestimando el tema y diciendo que ya lo controla él, como si hubiese sabido alguna vez de algo en su vida, me han evocado muy claramente una película, «Juegos de Guerra» (1983), y su conclusión evidente: la única jugada ganadora es no jugar. De hecho, incluso he visto una referencia por ese camino en The Guardian utilizando la misma película.
Los principales líderes de la industria dicen que quieren frenar, pero nadie quiere hacerlo. Aquí vemos desde teorías de la conspiración sobre una hipotética captura regulatoria que dicen que lo que quieren es quedarse como las únicas «autorizadas» a seguir desarrollando, hasta los que afirman que no es exactamente frenar, sino acompasar capacidades y seguridad, mientras todos condicionan su propuesta a que los demás hagan lo mismo.
De los protagonistas de esta obra, Anthropic y OpenAI son los que están forzando más el guión. Google, con capacidades de sobra que justificarían llamar la atención sobre el tema, permanece fundamentalmente callada, y Microsoft, básicamente, reclama sentido común. ¿Estamos, como algunos pretenden, al borde de un desastre existencial? ¿Qué hay de realista en todo esto? ¿Puede realmente la inteligencia artificial acabar con la humanidad? Sabemos que es capaz de hacer cosas malas cuando se la instruye para ello o cuando se descuidan las precauciones, y sabemos que esas capacidades escalan a medida que los modelos se convierten en más potentes. Sabemos también de su capacidad de desarrollar bucles de retroalimentación que se mejoran de forma auto-recursiva, y todos vemos la evidente posibilidad de que capacidades así puedan caer en malas manos y ser convertidas en amenazas. ¿Suficiente como para justificar la paranoia que estamos viviendo? Al menos, suficiente como para exigir un control, una regulación y responsabilidades adecuadas sobre lo que algunos irresponsables están haciendo. Eso, sin duda.
Mi reflexión sobre esto tiene que ver con lo absurdo que resulta convertir la prudencia en una desventaja. Ninguna de las compañías implicadas está actuando de manera irracional: quien ralentiza unilateralmente pierde talento, mercado, clientes, contratos, capital y posicionamiento estratégico. La reacción inmediata de los mercados refuerza esta idea: todos están dispuestos a sacrificar la seguridad a cambio de más crecimiento y dinero, como si lo segundo importase lo más mínimo sin lo primero. Claramente, la estupidez no está en cada participante, sino en el resultado colectivo producido por incentivos individualmente racionales.
Además, la carrera entre compañías se convierte en carrera geopolítica: los Estados Unidos y China temen cosas distintas, pero ninguno puede protegerse unilateralmente de una hipotética catástrofe tecnológica capaz de cruzar cualquier frontera. ¿Hay alternativas?
Mi impresión es que un desafío así sólo puede asumirse mediante la colaboración. Pero antes de que empecemos con tópicos al estilo Lennon, con llamamientos a la fraternidad universal mientras entonamos el «Imagine», nos damos todos las manos e imaginamos que no hay países (es fácil si lo intentas), pensemos que la humanidad ya ha cooperado anteriormente frente a tecnologías costosas o peligrosas: el CERN, por ejemplo, nació como un proyecto de ciencia para la paz, el Organismo Internacional de Energía Atómica (IAEA) usa declaraciones, inspecciones, vigilancia y mecanismos de alerta precisamente porque los países no se fían los unos de los otros. Para cooperar no es necesario que «seamos todos amiguitos», sino convertir la desconfianza en procedimientos accionables.
¿Sería viable un CERN para la inteligencia artificial? ¿Una institución internacional capaz de reunir talento, capacidad de computación e investigación sobre seguridad, capaz de someter los modelos de frontera a evaluaciones independientes, y de desarrollar aplicaciones de interés público en cuestiones como medicina, educación, ciencia o clima? No soy el primero que lo plantea: RAND ha analizado cinco posibles escenarios y funciones para una organización de ese tipo, empezando por la creación de un entorno seguro, la resolución de problemas de coordinación, o el desarrollo de usos que el mercado seguramente no querría financiar voluntariamente.
Una organización así podría ser abierta en el sentido de distribuir sus beneficios, pero no irresponsablemente abierta para que cualquiera pudiese hacer lo que quisiera con los resultados, manteniendo las capacidades de frontera bajo custodia y los accesos controlados. Los modelos abiertos, como bien afirma Stanford, son buenos para reducir la concentración, favorecer la innovación y facilitar el escrutinio independiente, aunque como también afirma Nature, también pueden propiciar abusos si la apertura se lleva a cabo sin auditorías ni gobernanza adecuadas. El objetivo de algo así debería ser universalizar los beneficios, sin regalar a nadie capacidades catastróficas para obtener posiciones de fuerza, amenazar o hacer el mal.
Poner en marcha algo así no es idealismo: de hecho, hay embriones posibles que pueden utilizarse: Estados Unidos, China, la Unión Europea y otros países ya firmaron en su momento la Declaración de Bletchley, y compañías estadounidenses, europeas y chinas aceptaron en Seúl evaluaciones, umbrales de riesgo y la posibilidad de no desarrollar modelos que no puedan gestionarse de forma segura. El Carnegie Endowment for International Peace propone empezar con una pragmática «seguridad en paralelo” entre Estados Unidos y China: prohibiciones sobre usos concretos, intercambio de incidentes y pruebas comunes.
Volviendo a «Juegos de Guerra»: todavía podemos desarrollar la tecnología y, de hecho, es seguro que lo haremos. Lo que debemos abandonar es una carrera en la que incluso el supuesto vencedor puede terminar desapareciendo junto con todos los demás. La única jugada ganadora no es dejar de desarrollar inteligencia artificial: es dejar de competir por ella como si fuese un arma con la que alguien pudiera conquistar el mundo sin destruirlo.
— «Tiremos de ironía. Los mismos que han creado la criatura nos piden ahora que frenemos porque admiten que no pueden garantizar su control. ¡Olé tú! La carrera ya está desatada, la inteligencia artificial se ha infiltrado en empresas, profesiones, procesos y decisiones, y ahora resulta que, después de haber pisado el acelerador a fondo, nos toca a todos poner la tirita. Tiene narices, la cosa.»
— «Nos habían dicho que el peligro era quedarse atrás. Ahora, quienes van delante nos alertan de que quizás el verdadero riesgo es seguir avanzando a esta velocidad.
Quizás tienen razón, pero antes de empezar todos a temblar, tenemos todo el derecho del mundo a preguntarles algo muy sencillo: si el riesgo es realmente tan grande, ¿por qué la prudencia se acaba exactamente allí donde empieza el riesgo de perder la primera posición?«
(Y ahora, todos a temblar. ¡Tiene narices, la cosa!)
Buen artículo
Sumale la reflexión de Lord Draugr
No, el mundo no se va a acabar con la IA
No sería tan descabellado pensar que estas empresas saben ya realmente que podrían hacer para minimizar los riesgos, y que al menos en parte todo esto es teatro.
El entrenamiento es clave en el comportamiento final de la IA, ¿no sería un buen primer paso reducir, limitar o directamente bloquear el tipo de información que se usa para desarrollarlos?. Pero no lo hacen, quizás, porque no es lo que probablemente quieran. Primero querrán averiguar como pueden desarrollar una super-inteligencia sin límites de ningún tipo, especialmente éticos. Menudo poder sería ese. Y una vez se logre, ya se verá como ofrecer una versión tuneada para el resto.
En fin, pura opinión y «educated guesses» que es lo único que podemos hacer. Me desagrada sobremanera vivir en el mejor momento para la humanidad, pero rodeado de tanta «bullshit» que a penas se puede disfrutar.
A mi no me hubiera gustado tener que posicionarme si «con cebolla o sin cebolla» pq en este caso me da todo a un tufillo a que OpenAI y Antrhopic están manipulando a la opinión pública para algo. Ese algo no lo tengo muy claro.
Si esto me lo preguntan hace 3 meses lo hubiera tenido claro, hubiera sido algo así: «La pretendida superinteligencia o incluso la AGI es un camelo, que no se lo creen nadie. Lo que está pasando es que esa carrera es un fiasco, que consume mucho dinero, y los incrementales de objetivos les cuesta un horror subir», pero ahora no sé me huele a gato encerrado. Que no les sale las cuentas y que están por la labor de no invertir mucho más hasta que no mejoren los ingresos. Curiosamente hoy son google, microsoft y los chinos los que más contribuyen a alejarme de la opinión de OpenAI y Anthropic pero es solo una sensación…
Lo de juegos de guerra, puede ser una alusión «enternecedora» pero si algo hace la metáfora, es entonces darles la razón a estos dos… Así que no nos vale tal cual… pero….
Por una vez, creo que Trump, en su lógica, nos aclara algo la «visión» (No, no he cambiado de camello). Me refiero a que él quiere un objetivo claro, tener la mejor IA frente a los chinos, para poder aplicarla militarmente. Tanto le han comido la cabeza con que la IA es una ventaja, que en su cerebro, que no es nada plástico, no le van a venir ahora con cambios de opinión. Y es un exponente claro que cuando tiene en sus 4 neuronas algo metido, es dificil sacar algo de esa sesera.
* Le dijeron que la OTAN necesitaba pasta, todos a pasar por caja
* Le dijeron que hay que acabar con Iran, y sus aliados, el que se pone a tirar misiles
* Que hay que rapiñar petróleo, para eso está Deli
* Que EEUU tiene deudas, pues China la culpable, que paguemos todos con aránceles.
Por eso cuando Trump, lo ve tan claro que hay que seguir con la IA (a muerte) es cuando hay que poner una RED FLAG. Ojo cuidado que si el gilipollas de referencia dice algo, por eso es una referencia, igual aunque sea por «instinto», es mejor PARAR, hasta ver como seguir y RACIONALIZAR el porqué.
Pero no tengo claro el principio, el motivo de hacerlo, salvo la «REFERENCIA»… a veces tener a idiotas que marcan una directriz es muy bueno tenerlos, pra saber que ese seguro que no es el camino…
Sí, de acuerdo, pero eso creo que NO va a pasar.
Lo voy a decir de otra manera: Esto son cuatro mamarrachos adictos (no porque sean adictos son mamarrachos, ojo. Lo son por otras muchas cosas), que un día «descubren», (lo que suele pasar muy frecuentemente), que aquello a lo que son adictos los puede matar…
Pero, al mismo tiempo se dan cuenta de que no pueden parar de consumir precisamente porque son adictos. Y, ya os digo yo, hermanos, que ser adicto es una de las cosas más complicadas del mundo… Y es tan complicada que, entre otras muchísimas cosas, se llega a chantajear a la familia, a los amigos, a los profesionales que los tratan para que les den pasta porque de lo contrario se morirán si no consumen (¿os suena?), y que será la última vez que lo hagan (¿os sigue sonando?), porque están muy mal y todo el mundo ve eso. Y eso que todo el mundo ve, eso es en lo que se apoyan para seguir chantajeando al mismo tiempo que reconocen que deben parar porque de ser seguir así, lo que consumen va a acabar con ellos… (esto sí que os suena).
Pregunta ¿es lo que consumen lo que los matará? ¡¡¡Rotundamente, no!!! Lo que los matará es lo que obtienen consumiendo, lo que los intoxica son las retorcidas, extrañas, paradójicas y alambicadas satisfacciones que obtienen cuando consumen. (O sea, en el fondo, aunque no tan en el fondo, porque es más que evidente, es como la masturbación, que es la fuente de todas las adicciones).
Así que no, no pueden parar porque están intoxicados, (todos ya lo estamos, junto con estos 4 mamarrachos), y ya no podemos parar porque, al igual que los adictos, ¡¡¡no imaginamos la vida sin nuestra adicción!!! ¡¡¡Entramos en pánico solo de pensar en ello!!! Cuando resulta que la adicción (al menos esta), ha ocupado en tiempo una ínfima parte de nuestra vida completa en años, y ahora ya nos parece que no podemos vivir sin eso, cuando hemos estado viviendo tan ricamente años y años y nadie despertaba por la mañana pensando que necesitaría una IA para vivir, o un puto movil, o un zurullo de conexión internáutica, y, mucho menos unas mierdas pinchadas en un palo de RRSS. ¿O es que alguien de aquí un poco mayorcito pensaba en eso cuando no existía siquiera un triste fax?
Así que no, no pararán y, a lo sumo, lo sustituirán por otra cosa (ya sería un avance, como lo es cuando un adicto pasa de una sustancia ilegal -y por ilegal peligrosa por la falta de control-, a una legal pero «controlada»).
Y todo este cuento de terror sólo faltaba que estuviese encabezado por el Agente Naranja, para ver que la sátira de la civilización que es el tren de los Hermanos Marx, va a toda hostia, con un maquinista incalificable (siendo educado) y con rumbo de colisión, sí o sí.
Así que chao, nos vemos en el Perú.