Una compañía ha recibido, de acuerdo con un consultor que ha comentado el tema con Axios, una descomunal factura de quinientos millones de dólares de Anthropic, en concepto de tokens de Claude. Como comenta alguien, eso son cinco jets privados, dos superyates o una isla, vaporizados en la nada y convertidos en simples tokens. O como dice otro usuario, «me gustaría estar en la reunión con el responsable«…
La reacción inmediata supongo que sería pensar que alguien ha cometido un error, que algún empleado se ha vuelto loco con los prompts, que algún departamento ha perdido el control o que la inteligencia artificial es muchísimo más cara de lo que parecía. Pero aparentemente, y con todas las reservas que precisa una noticia así, venida de un simple comentario casual, alguien ofreció licencias de Claude a todos los usuarios de la compañía y no fijó ningún tipo de límites. En pleno contexto de tokenmaxxing, en el que el consumo de tokens es supuestamente algún tipo de prueba de tu valía, las cosas se acumulan rápidamente, hasta terminar con semejante factura demencial.
Después de algunos meses de entusiasmo, muchas compañías están comenzando a analizar con más detalle sus costes reales de inteligencia artificial y, sobre todo, su retorno. No porque hayan dejado de creer en la tecnología, sino porque empiezan a tratarla como cualquier otra inversión empresarial y a poner un mínimo de sentido común en las cosas. Microsoft, por ejemplo, ha empezado a cancelar licencias de Claude Code a miles de sus trabajadores y a pedirles que utilicen las de su GitHub Copilot CLI, y no simplemente por apostar por un producto propio, sino porque la idea original de ofrecer Claude Code a todos sus trabajadores, independientemente de su experiencia en desarrollo de software, tenía una muy difícil justificación. Incluso una compañía que ha apostado miles de millones por la inteligencia artificial empieza a evaluar con más rigor qué herramientas utiliza, cuánto cuestan y qué valor aportan realmente.
La inteligencia artificial generativa tiene un problema curioso: parece barata. La interfaz es una simple caja de texto y formular una pregunta resulta tan sencillo que cuesta percibir toda la infraestructura y recursos que existen detrás. Pero cada interacción consume recursos computacionales, almacenamiento, contexto, herramientas externas y modelos cada vez más complejos. Durante mucho tiempo, ese coste permaneció relativamente oculto. Ahora empieza a aparecer en las cuentas de resultados.
Las compañías que obtendrán verdadero valor de la inteligencia artificial no serán necesariamente las que más la utilicen, sino las que sean capaces de integrarla en procesos concretos, medir resultados y eliminar todo aquello que genere consumo sin aportar impacto. En la práctica, la pregunta está cambiando. Ya no es si estamos usando inteligencia artificial, sino si realmente merece la pena usar inteligencia artificial para una tarea determinada.
Puede parecer una diferencia menor, pero en realidad marca el final de la fase de entusiasmo y el comienzo de la fase de gestión. Y eso suele ser una buena noticia. Porque las tecnologías verdaderamente importantes sobreviven precisamente a ese momento: cuando dejan de venderse mediante promesas y empiezan a justificarse mediante resultados.
Las facturas de quinientos millones de dólares no demuestran que la inteligencia artificial esté fracasando: demuestra que, por primera vez, alguien está empezando a contar.
Read this article in English on Medium with no paywall using this link, «What a $500 million Claude bill means: the AI accountants have taken over«
Si el trabajador necesita hablar constantemente con la IA para obtener valor, probablemente el producto está trasladando demasiado trabajo al usuario y gastando tokens de más.
A mayor flexibilidad de la interfaz, mayor necesidad de implicación humana y gasto de tokens. Una IA abierta, como en la interfaz que ofrece ChatGPT, sirve para muchas cosas, pero también obliga a decidir qué pedir, cómo pedirlo, cómo evaluar la respuesta y sobre a todo a realizar muchas iteraciones con el modelo hasta llegar a un resultado adecuado.
Por eso creo que el camino es diseñar sistemas más acotados: procesos concretos, objetivos claros, datos relevantes y validación humana donde aporta valor. Es decir, acotamos lo que esperamos de la IA en una labor u objetivo concreto.
La IA generalista necesita conversación. La IA bien integrada debería parecerse más a una capa de trabajo que entiende el contexto y reduce fricción.
No se trata de que Juan aprenda prompts perfectos. Se trata de que el sistema que creamos con IA integrada entienda el trabajo de Juan.
— «Si el trabajador necesita hablar constantemente con la IA para obtener valor, probablemente el producto está trasladando demasiado trabajo al usuario y gastando tokens de más.»
Si el trabajador necesita hablar constantemente con la IA, igual deberia plantearse otra profesion… camarero, carnicero, florista, sexador de pollos en celo…
Me perdonaras, pero creo que es una realidad…
No deja de ser curioso que hasta hace dos días el discurso era: si no utilizas IA para todo te has convertido en un dinosaurio.
Hasta no hace mucho el discurso era: “si no estas en Feisbuk, no existes”… y mira ahora la tasa de abandono y los comentarios generales sobre las RRSS en general…
Como siempre digo, yo no reniego de la IA. Advierto que muchas veces, nos estamos sumando a un carro de forma absurda. Y en tanto a la profesión (analista programador) sigo considerando que, si necesitas la IA para todo, igual los teclados no son lo tuyo.
Le pique a quien le pique.
Sierra Morena Technologies. Sin más comentarios
Poco me parece con lo que van a pagar algunas administraciones públicas. El otro día vi con mis poropios ojos como esas consultoras que han pillado el contrato para poner la IA en la administración (como poner una lavadora o ventilador) te invitan permanentemente a poner cualquier correo, contenido, texto legal, informe… para que te lo «traduzca» un agente IA que te ayude a interpretar el contenido, puesto que el ser humano es incapaz…. veremos a ver por cuanto sale la IA en nuestras administraciones, pero no pierdan atención…
Antes esto lo llamábamos, «matar moscas a cañonazos»
Cuando uno piensa que el principal problema de los Data Center es el disparatado consumo de energía que tienen, te das cuenta que será imposible mantenerlos simplemente con los datos y la publicidad que obtengan de los usuarios, y que quizá su uso se restrinja en la misma medida que se restringen otro materias primas utilizadas en un proceso productivos.
Ya es bastante lamentable que Microsoft compre masivamente para sus trabajadores licencias de Claude en vez de utilizar las propias de Copilot. Una de dos: o bien Copilot es una porquería —lo cual no me extrañaría— o es que algún directivo trinca comisión o las dos cosas a la vez.
Mucho se critica a Apple por su inoperancia en la IA, y con razón, pero nada del absoluto fracaso que está siendo la IA de Microsoft, que no utilizan ni en su casa.
Quizás sea una cuestión de expectativas: de Apple se esperaba mucho (culpa de ellos por anunciar demasiado pronto) y de Microsoft en cambio nadie esperaba nada. Como de costumbre.
No cantes victoria… yo no apuesto por el, porque no soy de portatiles… pero…
El Surface Laptop más potente jamás creado por Microsoft llega con una gran novedad: apuesta por un chip ARM de NVIDIA
Siri siempre ha sido 1,200 grabaciones de voz (en la versión en castellano) de una popular actriz española, que se escuchan al azar por acciones especificas, nunca ha sido «IA». Es un juguete.
El hecho que Apple este en silencio es porque un LLM es más complejo que poner 1,200 archivos mp3 en cada iphone. En PC solo obtener más de 5 tokens/seg exige 32gb of ram con tarjetas gráficas poderosas, es imposible que un iphone tenga un LLM funcionando dentro del dispositivo
Off topic, con disculpas, viene y no viene al pelo. Porque entre psicópatas anda el juego, sobre todo este juego.
https://www.eldiario.es/tecnologia/meta-obliga-guardar-silencio-hay-festival-autora-libro-zuckerberg-no-quiere-leas_1_13265578.html
Es que este es el típico artículo que va a buscar la polarización… IA si, o IA no…. Mala jugada…
Muchos podemos decir “IA no”, porque somos mínimamente racionales, pero eso no significa que estemos en contra… solo que vemos otras cosas… como los usos inadecuados (o no resolutivos), o no “racionales” (motivo del articulo).
El caso que presenta eDans, no es anecdótico. Tengo dos amigos analistas (empresa de 1300 trabajadores a nivel nacional), y no me voy a extender en todo lo que me han comentado, que igual meto la pata y digo algo que les delate… pero hay para libro.
Hace quince días, por fin nos reunimos después de tiempo en la sede de Zaragoza, y los dos coincidieron en algo: están sopesando la jubilación anticipada (se lo pueden permitir) antes de terminar el año. Así están las cosas. He visto algunos de esos códigos… y eso que me advirtieron: “si lo haces, Da Nang será un parvulario, no mires”. Menos mal que estoy retirado.
Dato: de los 56 analistas/programadores (la sección de Dev son unos 280), no hay ni uno que este haciendo su trabajo. Se pasan el día corrigiendo las patochadas de los juniors con la IA, que gerencia (vía arturitos), les obligó a meter a piñón en todos los procesos. Y no pocas risas con lo que llevan gastado en suscripciones y saltando de IA en IA (y en consultorías). Por no hablar, de los costes sobre desarrollo y cabreos de cliente (no tenían bastante con Agile, y meter a 7 managers de scrum, de forlayos, y de frostulos, por en medio para equipos de 6/8 programadores, que ahora, esto. Pero esto es otra historia).
Conclusiones, las vuestras.
En algún sitio leí algo así como que los ingenieros despedidos ahora reemplazados por la IA, volverán pronto a corregir hasta que se jubilen la basura generada por la IA.
Cuando éramos pequeños… esperábamos la navidad y reyes, porque seguro que caía un “estuche”… los había con muchos colores, con rotuladores, los había que hasta tenían un compás… y escuadra con cartabón y transportador de ángulos… pero los más buscados, eran aquellos que llevaban una cajita, pequeña… con cuatro barras de plastilina de colores…
Joder… a quien le regalaban un estuche de esos… se convertía en el “rey” el resto del curso…
¡Que viejos somos para saber de qué demonios estás hablando! XD
Del plumier de madera, ya ni hablamos…) XDDD
OFF TOPIC:
https://www.eldiario.es/economia/anthropic-amplia-acceso-mythos-150-organizaciones-15-paises-espana_1_13270089.html
Ahora según ha adelantado el Financial Times, Anthropic ha abierto el modelo a un grupo de otros quince países. Fuentes del ministerio de Transformación Digital confirman a elDiario.es que España se encuentra entre ellos. Canadá, Australia, Nueva Zelanda, Francia, Alemania, Italia, Suiza, Países Bajos, Bélgica, Suecia, India, Japón y Corea del Sur también estarían entre ellos, según el prestigioso medio económico.
Pues esta era la última burbuja que le quedaba al sistema antes de que todo el mundo viese que el rey está desnudo.