Mi columna en Invertia de esta semana se titula «La IA caníbal» (pdf), y pretende explicar lo que ocurre cuando se plantea la implementación de inteligencia artificial en una compañía, en función de las actitudes que se adoptan para ello.
La metáfora en modo «Siniestro Total» surgió leyendo una pieza de TechCrunch sobre la nueva estrategia de Khosla Ventures: no financiar start-ups, sino comprar empresas maduras y «re-ensamblarlas» atiborrándolas de IA hasta los topes.
La imagen es potente, y la conocía porque para algunos de esos proyectos han contratado a ex-alumnos míos que me lo han comentado: un inversor que engulle compañías enteras, digiere sus procesos y los regurgita convertidos en flujos de agentes autónomos. Ese «devorar por los pies» del primer párrafo pretendía transmitir exactamente eso: velocidad más falta de escrúpulos.
Hace meses que varios antiguos alumnos de MBA, ahora en fondos de private equity, me contaban que buscaban «targets» de compra con un solo criterio: cuánto legacy podían arrancar y sustituir por modelos generativos. El artículo cristaliza esas conversaciones. Que Khosla lo verbalizara en público fue la señal de que el fenómeno dejaba de ser anécdota para convertirse en tendencia digna de ser estudiada.
Para ilustrar el riesgo humano cité el caso de Amazon sobre el que escribí hace poco y su deriva hacia el copy-paste asistido. Documentos internos filtrados describen Kiro, un agente que genera código «en tiempo real» y convierte al desarrollador poco menos que en corrector de sintaxis. La idea de pedir al mejor talento ingenieril del planeta que se convierta en un simple lineman que pega bloques vomitados por un modelo es, sencillamente, matar la vocación. En los comentarios del artículo, varios lectores que trabajan en Seattle me confirmaron que el problema no es hipotético: los senior vuelan y los junior rechazan ofertas que hace cinco años habrían firmado con los ojos cerrados.
Claramente, «Attention is all you need»… hasta que no lo es. En el texto original dedico un par de párrafos a recordar que los LLM siguen siendo máquinas de completar tokens. Esa limitación, brillante para traducir o para autocompletar, e inadecuada para tareas que exigen verificación, explica las alucinaciones de las que luego nos quejamos. Wired hizo un repaso magnífico al fenómeno de las «librerías fantasma» que se cuelan en el código generado, con el consiguiente riesgo de ataques a las cadenas de suministro. ¿Moral? Si tu pipeline de producción no incorpora «humanos con tiempo y autoridad para decir no», estás invitando al desastre.
La reciente aventura de Duolingo con el despliegue de la inteligencia artificial es otro ejemplo de manual de cómo una implantación precipitada puede volverse en contra de quien la impulsa: la compañía empezó despidiendo al 10% de sus traductores externos tras proclamar que GPT-4 bastaba para crear y revisar las lecciones, y remató la jugada cuando su CEO, Luis von Ahn, publicó un manifiesto «AI-first», reiterado luego en un podcast, donde aventuró que las escuelas quedarían relegadas a simples guarderías mientras los algoritmos impartían la docencia, lo que desató una avalancha de críticas, boicots y la desaparición temporal de las cuentas sociales del famoso búho verde. La moraleja es clara: el problema no es la tecnología, sino la arrogancia con que se comunica y el desprecio percibido hacia el trabajo humano.
Si vas a implementar inteligencia artificial en tu compañía, no seas caníbal y no lo hagas amenazando a todo el mundo, metiendo el miedo en el cuerpo y despidiendo personas a mansalva. Las personas tienen familias, hipotecas que pagar y vidas que vivir, y la actitud de entrar con la excavadora solo puede hacer que la adopción funcione mal. Por otro lado, estarás sustituyendo personas con algoritmos que, por el momento, se dedican a completar frases con las palabras adecuadas, aunque para algunas cosas lo hagan llamativamente bien, con todo lo que ello conlleva. Utiliza la inteligencia artificial para dársela a las personas y que sean capaces de multiplicar su productividad con ella, no entrando con el machete en la boca y pretendiendo bañarte en la sangre de los desaparecidos. Y ademas, como termino también en mi columna en Invertia, podrás seguir mirándote en el espejo por las mañanas sin que hacerlo te genere asco.
This article is also available in English on my Medium page, «Attention is all you need—until you need people«
Completamente de acuerdo. Encantado con el PDF.
Luego pasan cosas asi…
(un apunte… Galiza Caníbal, la original no es de Siniestro (Cultura Popular-1997), si no, Os Resentidos en 1986) XDD
Ya lo he dicho otras veces, pero el problema que plantea el surgimiento de la IA no es tecnológico sino social y sindical.
Se necesitan sindicatos que representen a los trabajadores y normas que impidan usar a trabajadores humanos para supervisar a contra reloj a IAs generativas.
Es lo que viene a describir Cory Doctorow como «Centauros inversos» en lugar de usar la IA para potenciar a los humanos en sus tareas.
Pues al menos en España, nos vamos a dar con un canto en los dientes con los sindicatos…
Estamos a dos clicks, de encontrar en el supermercado, pan de molde con IA, espuma de afeitar con IA y ensaladas con IA… IA en todas partes. Como dije hace un par de artículos, llevo dos años (y creo que también vosotros) leyendo de esas empresas que despiden a tropecientos trabajadores (IBM a 3000 hace menos de un mes), porque la IA es el bálsamo de Fierabras que todo lo cura, y 20 días después, los están recontratando otra vez…
Quizás si hay que echar el freno, y ver con mayor perspectiva, que una herramienta que puede ser útil, acabara por destrozar mas de lo que parece por nuestra propia ineficiencia en su manejo (o imposición).
Dijo Don Quijote a Sancho: “Sé templado en el beber, considerando que demasiado vino ni guarda secreto ni cumple palabra”
Pues así estamos…
Las personas tienen familias, hipotecas que pagar y vidas que vivir, y la actitud de entrar con la excavadora solo puede hacer que la adopción funcione mal.
Los trabajadores de la industria del automóvil, los ingenieros nucleares, los taxistas, etc, etc, también tienen familias, hipotecas, vidas que vivir. No todos pueden convertirse en instaladores de placas solares… y dentro de no mucho los robots también se encargarán de eso.
En fin, veo mucha sensibilidad hacia los puestos de trabajo de cuello blanco y poca hacia los de cuello azul.
Si la RBU se basaba en que las máquinas harían casi todo el trabajo y los humanos sólo trabajo opcional creativo, ¿qué trabajo creativo nos dejarán la IA? ¿Montar maquetas de barcos?
Qué suerte voy a tener de jubilarme antes de que el futuro nos alcance.
jubilarte???
será que estás muy cerca de la edad. Para los demás es una meta que se aleja más rápido de lo que avanza nuestra edad. Sobre todo contando que hay una generación que viene que no tiene ninguna intención de contribuir a lo común, porque han nacido para ser ministros.
Estaba yo el otro día en la orilla de un río aquí cerca, y de pronto vi cómo una señora era devorada por un enjambre de pirañas.
Ante semejante escena, me acerqué a ese grupo de pirañas insurrectas y les dije estas justas y sabias palabras:
«En verdad os digo, que si vais a implementaros en estos lindos paisajes, no seáis caníbales y no lo hagáis amenazando a todo el mundo, metiendo el miedo en el cuerpo y comiendo a personas a mansalva. Las personas tienen familias, hipotecas que pagar y vidas que vivir, y la actitud de entrar en este río con estas mandíbulas, -que reíros vosotras de Spielberg- solo puede hacer que vuestra adopción funcione mal y seáis muy mal vistas por toda la comunidad».
Aún se están riendo de mí a carcajadas, y si me acerco un poco más, salgo corriendo en muñones…
Tendrías que haber metido el DEDO «»21″» (el de la llaga)
¡¡¡Ni soñarlo!!!
¡Buenísimo!
Por variar un poco lo del escorpión y la rana.
Leí hace una semana que alguien montó una compañía (no sé si eran seguros o algo) y lo llenó de agentes de IA para hacer todos los flujos de trabajo.
El único que sacó más del 21% de sus tareas fue Claude, el resto no cumplió casi nada. Cuando se lo reclamó el investigador, las IAs se pusieron a poner excusas o a disimular mejor lo mal que lo hacían.
Evidentemente mejorarán, pero yo creo que esto es como la mitad de la mitad de la mitad de la mitad. Al final te acercas a la meta pero nunca llegarás.
Mi temor es que al no contratar más juniors, en el futuro va a ser muy difícil encontrar seniors. Y los que haya, usarán la IA igualmente.
Juas, en realidad tengo ganas de ver lo que pasa con palomitas en la mano. Algún día un gobierno desesperado por el paro rampante prohibirá el uso de IAs en todas partes.
Te lo pongo mas fácil… ya hace muchos años, que ha aparecido frameworks de todo tipo como champiñones para cualquier lenguaje… el mantra es más productividad (hasta un 300% dicen algunos ), mas facilidad, mas….
…lo cierto es que los que siguen ocupando los cargos mas top, siguen programando en NotePad/Vi (o similares), con sus propias herramientas, sus propias librerías y su propia creatividad… y nadie les moja la oreja.
al tiempo…
SI necesitas la IA para programar, eres cualquier cosa, pero no programador. Y lo siento si esto que digo, levanta ampollas…
Absolutamente cierto.
No hay ningún problema en usar una librería, un framework o lo que quieras, pero si no eres capaz de entender antes qué y cómo funciona, y si se adapta o no a lo que necesitas, sólo eres un juntapiezas. Y más pronto que tarde lo sabrás por las malas.
Gracias. Ahora imaginate con la fabrica de tontos de la IA… XDD
Los reyes del Copy&Paste. (y algunos «consultores», que de punteros, seguiran sin tener ni puta idea) XDDD
Hum… me gustaría provocarte una carcajada, transmitiéndote como lo veo en mi memoria, yo, trasteando el código de las plantillas para Blogger descargadas de algún repositorio, buscando apañar algunas cosas a mis necesidades de entonces. Hasta que poco a poco iba dando con las teclas y cambiando tamaños, colores, sitios, e incluso añadiendo Sliders.
Buscando entre el código, como cuando Cifra y Neo miraban el código y este no entendía ni torta :).
Qué tiempos y sigo sin saber entender casi, ni J.
Carcajada? Por que?
Si eres capaz de descargar una plantilla, examinarla, aprender de ella y hacer las modificaciones que te apetecen… eres un firme candidato a programador (bueno, no exageremos) XDDD
De nada sirve aprender de memoria los 200/300 commands de cualquier lenguaje, si no tienes imaginación… es la base de la creación.
No no…, es algo que siempre me pareció súper tedioso y solo iba buscando cuál arqueólogo, las partes de código que me interesaba poder meter mano.
Lo digo, porque Blogger, siempre fue la opción natural para aquellos que escapaban de la “complejidad” de WordPress.
Yo siempre me sentí, jugando con una maqueta de lego de astronautas, en la nasa (comparándome con los programadores de verdad).
WP era tan sencillo como Blogger… al menos en sus versiones gratuitas…
En cualquier caso, te repito las felicitaciones por intentar algo…
(No veo a Gorki ilustrándonos con su saber… mecachis, siempre se pierde los mejores post) XDDD
El paro rampante exige soluciones «drásticas», para lo cual necesitaremos a un líder mesiánico que ataje los problemas de raíz. ¿Te suena? Sí, ya pasó el siglo pasado y está empezando a pasar ahora.
Y la verdad es que al lado de las palomitas es aconsejable tener cicuta, por si la cosa se pone como en las series de Netflix.
Aprovechando que hablas del simpático búho, es curioso como se ha montado un proceso de descomposición al modo Google.
Hace tiempo, que había posibilidad de comentar resultados… y valía la pena la intervención humana. También es cierto que en un 80% se manifestaban unas tremendas ganas de no esforzarse por pensar que asustaban un mucho… nada diferente, por otro lado, de lo que se palpa (ese 80%) en la navegación normal por internet…
Ahora se nota mucho el algoritmo y la deshumanización, ya en los fallos de interacción… llegando a no pode confiar en que el algoritmo realmente sea eficiente…
Decía el otro día que con WhatsApp, por ejemplo, se nota lo contrario, como se adapta a tu forma de expresarte, incluso aunque use un idioma al que no esté acostumbrado… y es más, hasta si usas ciertos modismos propios (alguna vez me pilló alguno muy simple). Al final va a resultar que Meta no lo hace tan mal. Pero , desde e luego, no me ha insinuado que deje de revisar lo que escribe el algoritmo.
Porque sigo sin saber de que guindo han caído los que siguen empeñados en que usar una IA (como los filtros externos de todo tipo) evitan un control más o menos directo, pero muy férreo, por parte de una IH (mentalmente sana).
Si el problema básico es precisamente lo mediocre que suelen ser las IH, no el que se puedan desmandar las IA. Hasta un Terminator es reconducible. Pero a esa manzana (la educación de verdad ) no le queremos dar trincada.
OFFTOPIC (y ojo)
Aseguran haber robado 5,1 millones de datos de clientes de Amazon España: DNI, móvil…
pero queda alguien que no tenga estos datos??
¡Pero maldito lobby cultural que puede perjudicar el desarrollo de esa beatífica ia que tanto nos va a beneficiar!
Enrique, ¿lo de la IA caníbal no iba por Os Resentidos?
Los CEO como de costumbre viven en una realidad paralela. Ellos ven todo lo que se van a ahorrar usando la IA y piensan, ¿a quién podría parecerle mal esto? El resto de los mortales solo vemos miseria.
Dejando eso a un lado, yo como usuario cuando veo una empresa como Duolingo sustituir a su personal por IA lo que pienso es que lo que antes les hacía únicos, ahora lo puede hacer cualquiera. ¿Para qué voy a pagar una suscripción de Duolingo si ChatGPT hace lo mismo? La librería de «GPTs» de OpenAI ya tiene asistentes para aprender idiomas.
Con muchas startups basadas en IA puede acabar pasando (y ya pasa) lo mismo que con el Excel. La mayoría de aplicaciones que compiten contra Excel son básicamente Excel glorificado y no aportan apenas nada relevante.
Si siguen apareciendo modelos de código libre como ha hecho DeepSeek, quizá es solo cuestión de tiempo que todo esto quede en la nada misma (financieramente hablando) porque cualquiera puede hacer todas estas cosas tan locas en su teléfono de 700€, sin pagar ninguna suscripción a nadie.