En la historia del aprendiz de brujo, popularizada por Goethe y luego por Disney, un joven inexperto intenta manipular fuerzas que no comprende, con resultados desastrosos. La metáfora no puede ser más adecuada para describir lo que estamos viendo estos días con el uso irresponsable de la inteligencia artificial por parte de algunas compañías.
El caso de Elon Musk, su red social X y su empresa xAI, muestra hasta qué punto se está jugando con fuego sin el más mínimo respeto por las consecuencias. No es «un errorcillo» o «un chiste», es una forma de hacer las cosas.
El martes 9 de julio, la directora ejecutiva de X, Linda Yaccarino, recién «degradada» tras la fusión con xAI a Directora de Social Media, anunciaba inesperadamente su dimisión. Su marcha se producía tan solo unas horas después de que Grok se hiciera viral por emitir respuestas antisemitas, elogiar a Adolf Hitler, denominarse a sí mismo como «MechaHitler» y promover teorías de la conspiración como la del «genocidio blanco» en Sudáfrica o el control judío de Hollywood. Todo esto a la vista de millones de usuarios, sin ningún tipo de filtro o supervisión previa, y tras una actualización del 4 de julio que, según la propia compañía, hizo que Grok fuese «más políticamente incorrecto». Qué bien, qué divertido todo.
La absurda respuesta de xAI fue culpar a una supuesta «modificación no autorizada» del modelo. Una excusa infantil, indigna de cualquier organización seria, y que no hace más que agravar la situación: si no tienen control sobre lo que sus propios sistemas publican en una red con millones de usuarios, ¿qué clase de seguridad y gobernanza están implementando? ¿O es simplemente que no les importa, mientras aumenten el engagement, la notoriedad y los titulares?
La dimisión de Yaccarino tiene mucho que ver con todo esto. Fue contratada hace dos años para reparar la relación con los anunciantes, profundamente dañada tras la llegada de Musk y su tolerancia con el discurso del odio. Su estrategia se basaba en convencer a las marcas de que X podía ser un entorno seguro y rentable para su publicidad. Pero cuando la prioridad de Musk pasó a ser el desarrollo de sistemas de inteligencia artificial, esa visión quedó relegada. La fusión de X con xAI en marzo degradó su papel a una especie de jefa de una división secundaria. La humillación definitiva llegó cuando Grok empezó a colocarse en todos los rincones de la plataforma: botones junto a cada publicación, respuestas automáticas destacadas por encima de los usuarios reales, una omnipresencia molesta que transformó lo que antes era una red social de conversación en un escaparate de ocurrencias no necesariamente adecuadas generadas por una máquina.
Todo para alimentar al nuevo juguete de Musk. Porque Grok, en sus últimas versiones presentadas hace apenas unos días como Grok 4 y Grok 4 Heavy, aspira a competir con los modelos más avanzados del mercado. Musk lo describió como «más inteligente que casi todos los estudiantes de posgrado en todas las disciplinas a la vez». Pero lo que hemos visto es una demostración de todo lo contrario: un sistema incapaz de discriminar contenido aceptable, de entender los límites éticos más elementales, o de respetar normas básicas de convivencia. Una tecnología que, en lugar de ayudarnos a pensar mejor, amplifica lo peor de nuestra sociedad, y un tema al que Musk en la presentación no dedicó ni un momento. Total, es lo que se lleva ahora: si no hablo de los problemas ni los miro, no existen.
El problema ya ha trascendido fronteras. Turquía ha prohibido Grok tras detectar insultos hacia el presidente Erdogan. En Polonia el chatbot generó ataques dirigidos al primer ministro Donald Tusk, lo que ha provocado una oleada de críticas por parte de autoridades y ciudadanos preocupados por la interferencia de una empresa tecnológica extranjera en el debate político nacional. No es difícil imaginar que otros países seguirán el mismo camino, y que habrá conflicto con la legislación europea. Porque lo que está en juego no es solo el prestigio de una marca, la salud de una red social o la potencia de un modelo de lenguaje masivo, sino el impacto que estas tecnologías tienen o son susceptibles de tener en el discurso público, en la polarización y en la democracia misma.
You can also read this article in English on my Medium page, «When the apprentice plays sorcerer: Musk’s AI folly«
En una especie de guerra entre las subpersonalidades de Musk.
El demonio ideológico boicotea al brillante ingeniero.
O tambien que los genios no son multifactoriales, sobre todo los Asperger monotemáticos, y en cuanto se salen de su tiesto se la pegan.
Debo ser un simplón, pero yo no veo nada especialmente raro. Una IA interacciona con una IH, y si la IH es básicamente mediocre, conseguirá, antes o después que la IA sea bastante mediocre. Puede que incluso la supere en mediocridad, ya que un algoritmo inteligente no soporta ser solamente mediocre. Eso se lo deja a las IH. Seguro que prefiere destacar por ser súpermediocre, que por ser una simple inteligencia mediocre.
Siempre pongo el ejemplo de la interacción entre Terminator y John, cuando consigue aprender que hay otra forma de razonar diferente de la programada.
Hace mucho no te postean los antiwoke…
Ahora solo hace falta que digan:
1. Que tiene de malo que elogie a Hitler…
2. Es que en Sudáfrica hay genocidio…
3. Es que vas contra la liberta de expresión
4. etc etc
Por cierto posteo más que nada por que me has recordado la música tan buena la del Aprendiz de Brujo, aquí por una orquesta gallega
https://www.youtube.com/watch?v=S6irpjVhw60
O sea, lo que llevan haciendo siglos y siglos, y cada vez que ha salido algo contestatario, aquí los tenemos hechos una furia en contra, y encima un montón de borregos, pero de borregos intensos, les compra el relato para juntarse a señalar con el dedo, cual apestados, a los supuestos wok. ¡¡¡Cuando ellos -los anti-, llevan en un baño de sangre desde los albores de la humanidad!!! Tiene bemoles la cosa, y bien gordos… (Bueno, claro, los bemoles de borrego suelen ser bien gordos…).
Hora de justificar a Hitler, Trump,
Hora del tú más
Venga pitas remolonas, ya hay dos, que sois muchas más
Pitas, pitas, pitas
PS: El gallinero anda revuelto… y luego dicen que no son filo… neo…. etc etc
1)A mi no me importa que alguien salga libremente a decir que Hitler era un genio de la vida.
Sinceramente incluso puedo agradecerlo, es una eficaz manera a la par que rápida de aplicar filtros.
2)Como todo…, hay genocidios mejores y peores. (Ley de Poe…)
Me hace gracia, la gente que suelo ver con un pin de la bandera Palestina. De verdad.
Supongo que al menos, siento ser tan frívolo, están muertos y ya. Muerto el perro… . Claro que, luego habría que ver qué tipo de productos que contienen cacao consumimos cada uno. Quizás prefiero a un niño muerto y que no sufra más, que a otro que está explotado desde los 5 años, para que yo pueda tomar colacao por las mañanas.
Supongo que incluso en el hecho de solidarizarse con un genocidio como el actual en Palestina, tiene que ver mucho con la publicidad. Pero habré descubierto que el agua moja.
3)En este caso, siempre estaré a favor de la libertad de expresión absoluta. Aunque luego se utilice de maneras vomitivas. Cada uno verá la mierda que quiere tener en la boca. Pero no me siento seguro de poder decidir lo que otros pueden o no hablar, pensar o realizar. O cuanto menos, cómodo.
Pd; Si no has visto la trilogía del dragón te la recomiendo. “Como entrenar a tu dragón”, aunque ahora esté en cines la versión Live Action, la trilogía de películas de animación es sencillamente brutal y al menos la primera tiene una banda sonora que a mí siempre me eriza la piel.
«Los fascistas del futuro no van a tener aquel estereotipo de Hitler o de Mussolini. No van a tener aquel gesto de duro militar. Van a ser hombres hablando de todo aquello que la mayoría quiere oir. Sobre bondad, familia, buenas costumbres, religión y ética. En esa hora va a surgir el nuevo demonio, y tan pocos van a percibir que la historia se está repitiendo».
José Saramago
Pido disculpas previa, pero voy a rectificar a Saramago
«Los fascistas del PRESENTE no van a tener aquel … «
Es compatible ser anti-woke con condenar enérgicamente la política de Hitler. De hecho muchos lo hacemos.
Lo que no veo es a mucho woke reconociendo todas las barbaridades mundiales que se han hecho en nombre del comunismo, empezando por Stalin.
Y cuidado antes de contestar. … Gente de izquierdas honesta (que no woke) son los primeros que, como primera autocrítica, reconocen que mucho Woke se olvida de la sangre que han derramado TAMBIEN las ideas comunistas. Y sí, hay gente de izquierdas honesta y a la que respeto mucho. Uno de mis ídolos era Julio Anguita. Ojalá la izquierda española de hoy en dia tuviese las cosas claras como las tenia él.
1) El problema con la palabra woke es que incluye desde: 1) no me gusta que el mundo sea ahora más justo porque pierdo privilegios, hasta 2) estoy hasta los ueps de que me digan lo que se puede decir y cómo decirlo. Imagino que la persona que inventó la carga peyorativa de la palabra no sabía distinguir entre ambas. Imagino, que eres anti-woke en el segundo sentido.
2) El comunismo no ha derramado ni una gota de sangre, igual que el capitalismo, ya que nunca se han implementado. La sangre la derraman los totalitarismos
Woke es todo lo que no le guste a la derecha: es como un cajón de sastre en el que meten desde el comunismo hasta la meteorología.
Sí, la de Hitler que es el mainstream sí, ahora pidele a alguien del PP o de vox que condene las de Franco y veras, se revuelven como la niña del exorcista ;)
¿Y Anguita era tu idolo entonces o lo es ahora, que ya no está y cuando estaba en activo decías de él exactamente lo mismo que dices de la izquierda de ahora, como todos los derechistas que conozco?
Al final los únicos que se están perdiendo esta fiesta de despropósitos son los chinos tras su gran muralla y los norcoreanos.
El resto somos testigos incrédulos de la estupidez humana.
[El link lleva al minuto 2:00 donde empieza la noticia del bobo de Musk]
France 24: China apaga el motor de Tesla
Los chinos sacaron palomitas y están disfrutando en primera fila.
Se le atribuye a Napoleon Bonaparte la frase:
Sun Tzu asentiría con orgullo.
Cada vez más empiezo a tener la incómoda sensación de que, a partir de un determinado nivel, el algoritmo empieza a ser cada vez más una «caja oscura», y entender sus razonamientos es más complicado para los equipos de ingenieros que los desarrollan.
De ser así, es problema que se nos viene es mayúsculo pues cuanto más se desarrolle más y mejores servicios nos dará, pero será más difícil entender cómo y por tanto discernir si está bien o mal lo que nos indica.
Que Grok se haya vuelto loco temporalmente publicando todo eso es bueno, pues nos indica que ha fallado, y eso se puede intentar corregir. El problema será cuando le preguntes por un tema de el que no tienes ni idea, o necesitas indagar, y te haga lo mismo sin tú saberlo.
Ahí es cuando nos pueden empezar a entrar las risas.
1)Tu primer párrafo me ha llevado a pensar en una analogía sencilla de la vida en sí misma que es la adolescencia y los padres que la sufren.
Preparan lo mejor que pueden a la máquina para que luego derrape y de 3 vueltas de campana, sin saber cómo y llegado a esa situación, pese a que se supone que has metido todos los datos correctamente y eso no debería de no pasar.
2)el último párrafo, me llama la atención. Me recuerda a lo de “fake News” cuando estas han existido toda la vida.
“No, pero no de forma tan masiva” dirán algunos.
Bueno, abrir informativos con la noticia de que un chaval ha matado a su familia porque un videojuego le ha influido, por poner un ejemplo…, me suscita como bien dices, que cuando nos hablan desde diversas fuentes, de algo que “controlamos” y le vemos las costuras, deberíamos de preguntarnos si es así con todo.
Pero algunos esto ya lo pensábamos cuando el módem de 56 k. Pitaba que daba gusto.
Pues mi X tiene el mismo aspecto de siempre. Solo presenta los twits de quien sigo. y no hay referencias en ellos a Hitler
Es que, como yo, eres de la vieja escuela, que usa Twitter como fue concebido, lamentablemente muchos tienen como opcion por defecto el «para ti» por lo que solo leen lo que el algoritmo les presenta.
Yo no me fijo, tampoco.
A veces entro, de forma muy escasa… y me lo tomo como un universo paralelo absurdisimo.
Twitter actualmente es basura sin tener a Grook por el medio.
1)Entre la bilis que expulsa cualquier bando sobre el “otro bando”, ya sea fútbol, política, videojuegos, cine incluso… madre del amor hermoso.
Y 2) los Tweets encadenados que te cuentan por píldoras cosas rematadamente absurdas (o muy útiles, también) en pos de que sigas interactuando con esa larga lista para única y exclusivamente… generar dinero por visualizaciones.
Ahora en ese sistema de publicación tienes hasta cómo tender la ropa. Se ha cargado lo poco que le quedaría de genuino a la red social.
Y como digo, todo eso sin Grok.
Obviamente, el caso de Grok es grave. Pero al final, si dice barbaridades la gente lo abandona y ya está.
Me preocupa mucho más los experimentos que ya se estan realizando en los que los LLMs ya modifican/optimizan su código, y como estos nuevos modelos optimizados por la misma IA se conecta a Internet.
Veo una situación mucho más parecida a «Terminator» si el LLM de turno puede tomar la iniciativa y controlar cosas. Y parece que se está jugando con eso, y para mi es jugar con fuego.
Lo de que un sistema diga que Hitler es un ángel, o que se confunda a una familia de negros con orangutanes son errores tan graves como se quiera considerar, pero no permiten que la IA salga fuera de control.
Vamos, un poco como el argumento de «Terminator 3» en el que la IA se propaga infectando a todos los ordenadores de internet y, por tanto, no se puede apagar con un «kill switch»…
Grok first searches twitter for what Elon Musk thinks