Se cree, aunque no está probado, que Albert Einstein dijo una vez que «solo había dos cosas infinitas, el universo y la estupidez humana, y que en el caso del universo, no estaba completamente seguro».
Una buena prueba de ello es comprobar cómo basta con que el uso de una tecnología se popularice, para que empiecen a aparecer irresponsables haciendo barbaridades peligrosas con ella: un ingeniero dedicado a la robótica, la automatización y la impresión 3D con el seudónimo STS 3D, muestra en un vídeo cómo ha montado un rifle sobre un soporte que permite su movimiento en tres dimensiones, y lo ha conectado a la API en tiempo real de ChatGPT para que se le puedan dar órdenes sobre hacia dónde o cómo disparar. El montaje es capaz de seguir un blanco móvil y de ejecutar órdenes como «ChatGPT, we are under attack from the front left and front right, respond accordingly» («ChatGPT, estamos siendo atacados por el frente izquierdo y derecho, responde en consecuencia»). Seguidamente, en el vídeo, se ve el arma moviéndose y disparando cartuchos de fogueo contra las paredes de la habitación en las direcciones indicadas.
Una innovación esencialmente trivial e igual de absurda que otras combinaciones similares, pero que ha servido para que el vídeo se hiciese viral y, sobre todo, para que OpenAI cerrase rápidamente la cuenta del ingeniero por suponer una evidente violación de sus términos de servicio, que específicamente prohíben «el uso de sus servicios para desarrollar o usar armas o para automatizar ciertos sistemas que puedan afectar la seguridad personal». La integración con ChatGPT no es particularmente eficiente, fundamentalmente porque tarda algunos segundos en ser procesada y respondida. Y además, dadas las posibilidades de interpretación o confusión con los comandos de voz en los LLMs, está más que claro que nadie en su sano juicio se plantearía utilizar algo así para ninguna tarea mínimamente seria.
En la práctica, el invento no es ningún Terminator, sino simplemente un sofisticado y exagerado control remoto activado por voz para un impresionante soporte 360º con un arma montada en él. El vídeo, en realidad, es una simple provocación: la ingeniería detrás del diseño del soporte, que gestiona de forma muy brillante el retroceso del arma, puede que sea interesante (no lo sé, porque de armas sé entre poco y nada), pero la integración con ChatGPT, decididamente, no lo es. Como dice uno de los comentarios en Reddit tras ver el final del vídeo, «acaba de empezar 2025 y ya he visto a un tipo montado en una escopeta con inteligencia artificial». Está claro que era simplemente cuestión de tiempo. Y de estupidez.
La pregunta, evidentemente, es qué tipo de usos puede tener la inteligencia artificial en tareas militares y de defensa, y es claro que pueden ser numerosas: podemos utilizar sistemas de detección que combinen distintos tipos de cámaras para identificar posibles amenazas, patrones de movimiento, etc. y responder de forma automática ante su presencia, con posibilidad además de ajuste fino en función de condiciones como la distancia o el viento, la posibilidad de que los patrones detectados correspondan a tropas amigas o enemigas, o de automatizar las reglas de disparo en función del escenario.
Existen muchísimos usos potenciales para la inteligencia artificial en el entorno militar y sería completamente absurdo e ilusorio pretender que no van a ser desarrolladas, pero todas ellas chocan con las mismas cuestiones: en primer lugar, que permitir que un sistema tome decisiones sobre la vida o la muerte sin intervención humana genera profundas implicaciones éticas. Pero además, podemos encontrarnos con que los modelos, si se entrenan con datos sesgados, pueden tomar decisiones erróneas, como identificar incorrectamente un objetivo, o incluso, en escenarios de guerra híbrida, ser vulnerados o manipulados por el adversario. O, en el medio plazo, que una integración excesiva de modelos de inteligencia artificial pueda reducir la capacidad humana de supervisar y tomar decisiones independientes, algo potencialmente muy peligroso en ese ámbito.
¿Vamos a ver sistemas de inteligencia artificial desplegados para usos militares? Sin duda, me temo. Pero al menos esperemos que ese tipo de cosas se hagan bajo el control y las medidas de protección adecuadas, no en forma de chalados que montan rifles en soportes y los automatizan conectándolos a ChatGPT.
This article is also available in English on my Medium page, «Using ChatGPT to fire guns: what could possibly go wrong?»
Porqué las innovaciones van demasiado rápido, que si no, me pregunto: ¿por qué no se me habría ocurrido a mí…???
…pues… que quieres que te diga… el 12 de marzo de 1938 un pintor europeo con bigote decidió que era lo justo, lo correcto, y una buena idea, anexionarse una parte de un país soberano y autónomo.
Resumiendo, ese ánimo expansionista derivó en «profundas implicaciones éticas» (…ejem…) y que como sociedad después de un juicio establecimos que ya estuvo bien, y se puso fin a 2000 años de matanzas entre países vecinos…
…hasta 2025, en el que un cliente que gusta de hacer uso de los servicios de damas de afecto negociable, dice a quien quiera oír, que es lo justo, lo correcto, y una buena idea, anexionarse una parte de un país soberano y autónomo…
Algo que debería ser un escándalo de proporciones épicas, 87 años después tiene el tratamiento de notas casi de color, así que lo de «profundo» «implicado» y «ético» como que se perdió en algún lado… tanto para el uso de IA para matar, como para declarar a bocajarro ánimos de quedarse con propiedad ajena.
Cierto que la belicosidad en Europa se redujo mucho tras la segunda guerra mundial l, pero seguimos teniendo la guerra civil Griega, el conflicto de Chipre entre Turquía y Grecia, la guerra de Croacia, la de Bosnia, la de Kosovo y la de Ucrania.
No hace falta pintar esos 87 años como un remanso de paz para censurar a ese personaje
La verdad, Javier, es que las declaraciones de Trump sobre Panamá, Groenlandia y Canadá resultan definitivamente preocupantes. Hay quienes piensan, sin embargo, que lo único que está haciendo Trump es seguir la teoría del loco con el fin de lograr con más facilidad determinados acuerdos, aunque desde hace años se presume, por el contrario, que el mencionado personaje no sería más que un egoísta al que no le importarían las consecuencias de sus acciones.
En todo caso, el imperialismo parece estar de vuelta, sea de manera real como en Ucrania o al menos como espada de Damocles en la futura relación de EEUU con el resto de países, aunque sean aliados. Supongo, sin embargo, que el limitado debate que ha habido sobre este tema será, en unos casos, por preocupación o miedo y, en otros, por complicidad o admiración. En este mismo blog hay quien me ha respodido con un fragmento de la película La vida de Brian para ensalzar, de manera comparativa, las supuestas virtudes del antiguo imperialismo hispano. Así que no faltarán quienes digan que los groenlandeses, panameños y canadienses estarían mejor si fueran anexados por EEUU y que incluso deberían agradecerles por querer incorporarlos al progreso y la civilización.
Estimado Mauricio. No seré yo quien defienda a nadie que proponga «anexionarse» territorios sin el consentimiento de sus habitantes, pero de ahí a pensar que otros no lo tienen en mente y no se habla de ellos simplemente porque no son «bocachanclas» (si es que eso no es una estrategia, véase la crisis de los misiles del «quién la tiene más grande»), va un mundo.
La realidad es que intrínseco al desarrollo de la humanidad siempre ha habido guerras en la pugna por recursos. Sean estos oro y plata en las Américas, personas en África (de eso no hablamos), o metales raros en hasta ahora países no estratégicos.
Ese es el gran reto, no recurrir a la violencia en la lucha por recursos. Visto cómo nos ha ido históricamente, albergo poco esperanza, y como padre de familia estoy lógicamente preocupado.
Raúl, lo que he dicho, como puedes ver, es que supongo que el limitado debate que ha habido sobre este tema será, en unos casos, por preocupación o miedo y, en otros, por complicidad o admiración. Quizá debí decir «por preocupación y miedo» o «por admiración y complicidad», lo que daría a entender que son el miedo o la complicidad los que hacen que no se eleven demasiado las voces en contra de unas lamentables ideas anexionistas, que además podrían ser solo meras palabras que únicamente buscarían una posición ventajosa a la hora de negociar determinados acuerdos con Panamá, Groenlandia y Canadá.
Lo de la lucha por los recursos naturales que mencionas es un punto ciertamente importante, sin negar que lo es también la idea de fortalecer una posición dominante ampliando las fronteras hasta lograr el dominio de determinadas posiciones estratégicas. Se decía, por ejemplo, que algo que la Unión Soviética siempre quiso era tener un puerto de aguas cálidas en el Océano Índico, lo que sería una de las razones para que trataran de avanzar hacia dicho objetivo vía Afganistán, aunque no hay suficiente claridad al respecto.
Claro está que podría ser que Trump se hubiera sencillamente transformado, de repente, en un genio de la geopolítica y que estuviera diciendo que quiere tomar el control del Ártico con el único fin de que Rusia se sienta amenazada y decida retroceder en Ucrania, y que una vez conseguidos sus propósitos todo vuelva a la normalidad. Esto podría ser un muy llamativo golpe de timón, aunque lo veo muy improbable.
Mauricio.
Estas chingando otra vez con la pendejada, que en castellano diriamos:
¡¡ Y vuelve la burra al trigo!!
Nada tiene que ver la situación de Groenlandia con la crítica que hice a tu argumentación de lo sucedido hace quinientos años. Los mensajes de odio hacia lo hispano se traen a 2025 con el gilipollesco argumento que los actuales mandatorios de España tengan algún tipo de responsabilidad ética con aquella época.
De hecho la monarquía española ya pidió perdón de algo que hizo, porque lo hizo él, no tus tatarataabuelos, esos que se quedaron en los virreinatos a vivir a cuerpo de rey (nunca mejor dicho) y a explotar a sus indígenas. De hecho tanta MO necesitaron que algunos siendo ya «independientes» se sumaron a los modos de Inglaterra o Estados Unidos, llevando esclavos capturados en África !!
Disculpas de Juan Carlos I Rey de España
Así que nada a ponerte el video en bucle cuando quieras unas disculpas que son de amplio espectro valen para animalistas amigos de los elefantes y para cualquier político con ánimo de arrimar la sardina a su perturbada estrategia anticolonialista. Sé que no dejaras de tocar las maracas de Machín, con la payasada.
Antes de desviar «el tiro» deberían responder a sus datos internos:
Desaparecidos en México
* Cifras de 2006 a agosto de 2019:
Personas desaparecidas: 40 180
Fosas clandestinas: 3024
Cuerpos sin identificar en servicio forense: 26000
* Cifras a enero de 2020:
Personas desaparecidas: 61637
El problema podríamos pensar que es de esos políticos pendejos. Pero el que fomenta y no olvida esas pendejadas ¿está libre de culpa?
Y ya que sale la ocasión de hablar de México, recordar la increible labor de acogida del presidente Cárdenas, y lo que hicieron cuando acabo aquí la Guerra Civil dando refugio a tanto exilado español, muchos de ellos (25%) con gran formación intelectual, y perseguidos en España por el glorioso deber de defender la Patria y la democracia de la alta traición del genocida Franco. Eso si es digno de destacar y como favorecieron al crecimiento de la República Mexicana. Cárdenas, ese si fue un gran presidente. Y no ahora que están moviendo el rabito ante los gringos, y entrando al juego de si el Golfo de México hay que cambiarle el nombre. Ese es el nivel.
PS: Perdón por el offtopic, pero había que responder la pendejada
Los seres humanos siempre somos así de burros, Buzzword. Si no fuera así, ¿qué razón habrías de tener para entrar a responderme?
En todo caso, es claro que Groenlandia no sería el sitio adecuado para ti. Considerando tu visión del mundo, quizá deberías comprar tierras cerca del canal de Panamá, lo que aumentaría la probabilidad de que luego puedas convertirte en zoneíta y disfrutar de los grandes beneficios de la vida colonial.
En cuanto al enlace que aportas con las disculpas sobre el episodio de Botsuana (elefante y Corinna), no veo qué relación tiene con el tema. La verdad es que en este caso te habría valido más mencionar las palabras con las que el ahora rey emérito se dirigió en 1990 a los representantes indígenas mexicanos, que, si bien no fueron una disculpa, al menos incluían un «lamentablemente». Aunque es claro que para aquellas personas que son aun más papistas que el Papa, todo esto no debe ser más que una «pendejada».
Obviamente todo en la defensa populista es lamentable.
Ahora te puedes vestir de virgen vestal pero lo que dijiste, dicho queda. La misma falta de autocrítica y coherencia que se ve en la ideología ultra es la que exhibes.
Evidentemente entro en responder por un derecho de réplica evidente ante la manipulación que muestra lo que defiendes, lo que te convierte en parte de esa manipulación , y que por mucho comodín de la demencia literaria que utilices la alusión fue clara.
Evidentemente ante esa manipulación revisionista manifiesta nunca me vas a encontrar en esa trinchera promovida desde algunas élites gobernantes cuyo única bandera es el populismo y la arenga de las masas utilizan el enemigo común, con Hitler fueron los judios, con Franco los masones y los judios, y con López Obrador la demencia de culpar a sus antepasados de hechos ocurridos hace cinco siglos. Del mismo modo que las legiones romanas en sus conquistas entraban a someter a sus vecinos, y nadie les pide dos mil años después, que pida perdón Meloni por esas acciones, o por las barbaridades cometidas en Abisinia o Guadalajara(España) más recientemente.
Así que relaja majete, y métete en tus asuntos, y no pidas que mi Jefe del Estado «mee» donde tu o tus manipuladores le digan. ¿Te parece poca vela el ser español para defender lo que es mi casa común? Y si, si tengo libertad de expresión para eso, e incluso para censurar a «mi jefe de Estado» cuando me parezca razonable. Pero para ello no me hacen falta presidentes de chichi nabo que no me respetan a mi como español, o a la monarquía que actualmente obstenta la Jefatura del Estado, y más con la payasada de hace quinientos años.
Pero como esa mercancia no se la comprarían, usar el chivo expiaotorio, de los conquistadores españoles. ¿Es una pendejada? Obviamente, si. ¿Desde mi comentario se justifican esos actos? No, y menos soy revisionista con los ojos de 2025 de esos acontecimientos. Seguir a pie juntillas a políticos populistas con sus manifestaciones extemporáneas. Eso si es ser más papista que el Papa. No me hace falta leer a JC-I calificar esos actos, que mira tu por donde, están más por la fraternidad y no por el odio manipulador de un político poupulista ¿Quien es más papista el que defiende la fraternidad independientemene que lo diga una figura que la que personalmente no comulgo o el que defiende a políticos manipuladores? Ya sabes la respuesta. Está enfrente de ti cada vez que te miras a un espejo.
Esto es lo que hay, solo hay dos respuestas, la primera conciliadora, que viene a ser que si que no es normal pedir explicaciones a personas actuales de actos de hace quinientos años por lo que a un personaje le parezca, y la segunda seguir dando vueltas en la noria del odio, no contra lo español, sino contra la racionalidad. Si lo segundo es lo elegido, la respuesta será la misma que dió Fernando Fernan Gomez ante el acoso por la firma, y la primera será algo más lógico,elo silencio ante el acoso.
Tranquilo, Buzzword, que este es solo un diálogo virtual, con todas las limitaciones que este formato tiene. Seguro que si estuviéramos conversando de manera presencial, ya estuviéramos riéndonos de los políticos. No pretendo molestarte y si me conocieras quizá podrías llegar a comprender la razón por la cual tengo la posición que he manifestado. Cuando puedas, deberías visitar el Cuzco y sus alrededores. Seguro que ahí te darías cuenta de la complejidad de este asunto.
Gracias Mauricio
En general estoy muy de acuerdo contigo, en este hemos chocado… Seguro que a los demás les parece una nimiedad, pero por diferentes razones en este caso tenemos puntos de vista distintos, bueno más bien culpables distintos.
De hecho, estoy 100% de acuerdo en la defensa de los pueblos indígenas, que son las víctimas actuales, y siguen siendo vapuleados por todos lados. Por eso yo apunto a otros culpables,…
Por mi parte disculparme, si en el formato, has sentido alusiones personales, es cosa del calentón del formato…
PS: Lügen haben kurze Beine
Me desconcierta pensar qué es menos ético. Lo que hizo la Alemania nazi… o perdonar crímenes de guerra si se decidía trabajar para los aliados. Porque es lo que supuestamente sucedió con muchos científicos alemanes ¿no?
Pero supongo que el fin, justifica los medios.
No lo pongo al mismo nivel una cosa y la otra, simplemente lamento ambas.
«O, en el medio plazo, que una integración excesiva de modelos de inteligencia artificial pueda reducir la capacidad humana de supervisar y tomar decisiones independientes, algo potencialmente muy peligroso en ese ámbito.» (EDans).
Lo que ya ocurre con los algoritmos «de medio pelo»… unido, eso sí, a la falta de filtros mentales humanos propios, por la mediocridad habitual que nos rodea.
Cuando disfrutaba de pelis como Cortocircuito con mi hijo, siempre acabábamos con el mismo colofón reflexivo… siendo tan mediocre la IH media, sobre todo en ámbitos de alto mando ejecutivo, es imposible que no nos coja ventaja un robot bien programado. Y estábamos viendo a un tipo de robot como Número 5… una especie de cromagnon de la robótica. Pero que ya nos daba mil vueltas en inteligencia operativa.
Y sí, otra buena reflexión contigua, era lo mucho que se puede aprender con pelis bien hechas y que sepamos ver/leer con atención. Eran los 80 !!!
Alguien duda de la utilización de IA en armamento, antes o después?
No hace falta IA…. XDDD
dispositivo con reconocimiento facial para rociar con líquidos variados a los sujetos que vandalizan su barrio.
Ahora en serio…
Ya he hablado en ocasiones en estas lineas de Palantir AIP (del amigo Peter Tihel).
Nada nuevo bajo el sol. La IA se va a utilizar si o si en el ecosistema militar.
Etica y Militar en una misma frase es un oximoron.
(y Terminator esta a la vuelta de la esquina, antes que el hard/soft cuantico) XDDD
Yo no lo veo como una estupidez.
Es la prueba de que , si un ingeniero dedica un poco de su tiempo de ocio a demostrar el uso que se puede hacer con la IA aplicada a este tema ¿qué no hará el ejercito USA o Putin?
¿O alguna vez algún ejercito ha desaprovechado la oportunidad que le brindaban la última tecnología disponible.?
Esto vale como recordatorio para los que son demasiado optimistas con la alineación de la IA
Ya ha habido pruebas de prototipos de drones de IA occidentales en Ucrania, y sería completamente estúpido no hacerlo, por que es seguro que los rusos, y quizás los chinos estén también automatizando los drones militares al máximo de su capacidad técnica.
La necesidad está muy clara, los drones gobernados por IA y con datos topológico/geográficos grabados dentro son inmunes al signal jamming o interferencias de guerra electrónica, y también son resuelven el problema de sobrepasar la capacidad de gestión del piloto de drones cuando hay múltiples objetivos.
Sigo de cerca los acontecimiento de Ucrania y vamos, hay militares y fabricantes de armas occidentales en el terreno a patadas. También es cierto que muchos militares occidentales saben que sus tácticas deben de ser redefinidas totalmente por la importancia que ya tiene el dron, tanto de observación como de ataque o suicida. Se necesitan drones de muchísimo tipos, tanto en masa, baratos y con posibilidades de fabricar millones al año, como ultra sofisticados y caros que solo se podrán disponer de unos centenares en una década.
Por último tengo la sensación que Elon Musk, el facha, tiene razón. El dron es el centro del futuro militar y el F-35 está obsoleto. Europa debe de reconvertir su nuevo proyecto de caza de combate y hacerlo Dron exclusivamente.
Occidental esto, occidental lo otro, y ahí está Irán vendiéndole drones a unos y a otros. Drones fabricados con piezas compradas al más puro estilo Amazon para más recochineo.
Por cierto, y siendo algo off de récord, hablamos mucho de drones pero ahí está el amigo Vladimir usando a soldados norcoreanos como carne fresca en el frente, hasta para la detección de minas, tal y como hicieron los japoneses con sus abuelos en el s XX. Como diría mi abuelo, el zorro cambia de pelo pero no de costumbres….
Déjeme adivinar dónde se ha informado sobre la supuesta presencia de soldados norcoreanos en el frente ruso. Bingo, en alguno de esos medios que conforman el universo mass-media, que aplica a rajatabla el argumentario llegado desde Maryland.
Llega a ser grotesco el grado de mediocridad de los susodichos medios, que se limitan a repetir como cacatúas las mismas “noticias” sobre el asunto, sin ni siquiera molestarse en modificar, aunque sea mínimamente, la redacción de los textos.
Cuando encuentre una sola prueba sobre la presencia de soldados norcoreanos en el frente ruso nos avisa, ya que nunca he sido fan de los expedientes X.
Salvando las distancias. Cuando hablamos de que una máquina tenga capacidad de decidir sobre la boda y la muerte humana sin intervención, no es lo mismo que la conducción autónoma??? Peatón o conductor?
Y por rematar un poco….. esperemos que no sean sistemas fácilmente jakeables
¿Vamos a ver sistemas de inteligencia artificial desplegados para usos militares?
No olvidemos que Inteligencia Militar es un buen ejemplo de oxímorón.
“ Y además, dadas las posibilidades de interpretación o confusión con los comandos de voz en los LLMs, está más que claro que nadie en su sano juicio se plantearía utilizar algo así para ninguna tarea mínimamente seria.”
Jajajajajajajajajajaja!!!!!…….
Estamos teniendo problemas en el trabajo en los últimos días con el software de ventas, Admit One. Hay software basura con el que se gana dinero todos los días, por desgracia.
Fuente: Perplexity
Pues eso.
Nobb no termino de entender bien la intención de tu mensaje.
A raíz de lo que comentaba Enrique, me hacía gracia porque software que tiene fallos, que simplemente no tienen sentido algunas cosas para su utilización y que la optimización brilla por su ausencia en lo más básico….
En plan… “¿y para hacer devoluciones a los clientes?”, “No, no…, no se puede hacer devoluciones” (para aplaudirle la cara al ingeniero aeroespacial en cuestión…)
Y que se siga utilizando, que se siga sin arreglar algunos fallos, algunas mejoras, etc… .
No es la primera vez que tengo la sensación en la que el día a día en el que vive Enrique y el tipo de gente con el que sociabiliza, tiende a tener una realidad algo distinta a la de otros muchos trabajadores. Cuidado, no digo ni mejor ni peor ¿eh? Pero que muchas veces, la gente de oficina no tiene ni puñetera idea de que sus decisiones (o la falta de ellas) afecta directamente a la cadena de montaje (y me refiero a casos como el expuesto arriba no ya a desdén por una clase social un escalafón más abajo).
Lo que tú expones… es evidente que pasará, pasa y pasaría. Y me cuesta creer que en la inteligencia humana, no haya ningún resquicio por el que se cuelen este tipo de fallos, en los que “uy, si esto no tenía que pasar”, “uy, pero esto no lo hacemos así”.
Incluso en estamentos del ejército de Estados Unidos, seguro.
Si la AI fuera realmente inteligente como queremos, como nos interesa a la sociedad, tiraría el arma al suelo, y comenzaría a negociar, ya que todas las guerras terminan así, en negociación.
“vamos a ver sistemas militares con AI…”
Creo que ya los vemos: desde hace AÑOS.
O pensáis que una tecnología que ahora usa todo el mundo desde el móvil no la están aplicando los militares de los países más avanzados (USA, el primero) desde hace tiempo?
Los USA gastan mucho mucho mucho en “Defensa” y en toda clase de proyectos… y cuando una tecnología se usa en lo militar, se puede traducir en tecnología para matar. Así se entiende mejor.
De donde nace Internet, por ejemplo? Pues eso.
La respuesta es: ya se hace, ya se hizo, y se hará al máximo de lo posible, incluido decidir sobre la vida y la muerte.
De ahí la guerra por los nanómetros
Esto ya está pasando, sin ningún género de dudas. En fin.