Probablemente habrás notado esto más de una vez: yo decididamente, sí. Cuando usas un chatbot de inteligencia artificial para preguntas personales, para tomar decisiones, para investigar, funciona de maravilla. Pero cuando pruebas la inteligencia artificial de tu empresa para algo más que «la inteligencia artificial del oficinista», más allá de simplemente «tradúceme esto», «contéstame esto» o «resúmeme esto»… bueno, los resultados tienden a ser bastante menos impresionantes – como digo, salvo que estemos hablando de usos puramente administrativos.
¿Por qué pasa esto? Básicamente, porque cuando lo usas tú, eres tú quien lleva el timón: las correcciones, el reencuadre, el «olvida esto, dame más de aquello», hasta que decides que la respuesta es suficientemente buena. Todo ese trabajo de supervisión es prácticamente invisible, porque se siente algo natural, como cuando lo haces con un compañero o un subordinado.
Pero en el momento en que pasas de la ayuda personal a gestionar un proceso, esa función de dirección tiene que aparecer en algún otro sitio, y eso no es necesariamente fácil. El salto de los asistentes a los equipos humano-agente, y de ahí a flujos de trabajo «dirigidos por humanos, operados por agentes», es mucho más problemático, mucho menos natural y genera bastantes más problemas de lo que parece.
Entender la diferencia entre asistencia y autonomía
La historia está en la naturaleza de los papeles de cada uno: los copilotos proponen, los humanos juzgan. En el contexto de procesos corporativos que pueden durar desde varias horas hasta varios días y atravesar distintos sistemas y departamentos, eso genera una preocupación directiva fundamentalmente diferente: ¿quién controla qué? ¿Sigue esta secuencia de acciones apuntando hacia el resultado que queríamos y en la dirección que pretendíamos?
Los agentes de larga duración, totalmente habituales y necesarios en proyectos corporativos, plantean además un problema abierto que todavía no hemos resuelto: incluso los más capaces, construidos sobre los mejores modelos del mercado, tienden a desviarse en horizontes largos, con muchas sesiones encadenadas y ventanas de contexto distintas, a menos que exista algún sistema alrededor que les ayude a mantener el progreso y la continuidad. Tenemos buenos motores, lo que nos falla es la carretera.
Los ejemplos son fáciles de encontrar: un agente que gestiona un proceso de retención de clientes tiene que redactar mensajes, elegir u ofrecer descuentos, programar seguimientos y actualizar el CRM corporativo en cada paso. Pero si una campaña de descuentos que mejora las renovaciones está dañando los márgenes, o está causando bajas seis meses después, ¿quién va a darse cuenta? Eso es exactamente lo que significa llevar el timón: no solo generar la siguiente acción, sino hacer juicios y ajustes continuos sobre si el proceso completo sigue moviéndose hacia los objetivos reales.
El modelo solo no basta
A día de hoy, creo que el principal reto ya no es demostrar que los agentes pueden llegar a funcionar. Eso ya está demostrado. El reto ahora es dotarlos de la capa de fiabilidad que realmente requieren los flujos de trabajo de alto valor añadido: políticas, permisos, monitorización, reglas para escalar y retroalimentación en producción. Incluso OpenAI ha creado un producto, Presence, diseñado específicamente para estas preocupaciones.
Pregunta sencilla: ¿le darías a un empleado brillante total libertad, sin objetivos, sin restricciones, sin supervisión y sin retroalimentación? La respuesta, la mía y supongo que la tuya también, es un no rotundo. Sin embargo, las empresas hablan hoy de agentes autónomos como si la autonomía fuera el objetivo último, cuando en realidad no lo es. El objetivo real es obtener mejores resultados, y la autonomía solo es útil cuando ayuda a la empresa a acercarse a esos resultados. Y sí, ya sé que «autónomo» es la palabra de moda ahora mismo.
Según Gartner, más del 40% de los proyectos de inteligencia artificial agéntica serán cancelados antes de finales de 2027 por problemas de coste, valor de negocio poco claro o controles de riesgo inadecuados, y muchos de los proyectos actuales están mal aplicados o todavía en fase de prueba de concepto. Y tal como yo lo veo, el problema no es falta de entusiasmo, sino falta de una capa de control fiable alrededor del trabajo autónomo.
Gobernanza, en lenguaje llano
Alguien tiene que decidir qué puede hacer un agente, qué no puede hacer, cuándo tiene que detenerse y cuándo tiene que intervenir un humano. Cuanta más autonomía tienen los agentes y menos supervisión directa reciben, más espacio hay para malentendidos o acciones no deseadas. Y aquí es donde creo que estamos confundiendo dos cosas completamente distintas: inteligencia no es lo mismo que control.
Un modelo puede ser excelente generando ideas, interpretando lenguaje o eligiendo posibles acciones. Pero control significa otra cosa: mantenerse alineado con el objetivo original independientemente de cuánto cambie el contexto o las circunstancias. Esa es la esencia de la dirección. Las grandes empresas no solo contratan personas inteligentes y se van: también definen objetivos, presupuestos, derechos de decisión, reglas de escalada, incentivos y ciclos de revisión.
La investigación de McKinsey respalda claramente la dimensión organizacional de esta idea. La firma suele asociar el rediseño de flujos de trabajo con el impacto en resultados de la inteligencia artificial generativa, y la supervisión de la gobernanza de inteligencia artificial por parte del CEO aparece correlacionada con un mayor impacto auto-reportado en el EBITDA. El éxito, según McKinsey, no consiste en tener los modelos de frontera más inteligentes y dejarlos caer sobre los procesos existentes, sino en rediseñar esos procesos y la forma en que se dirige y controla el trabajo.
Microsoft apunta en la misma dirección cuando habla de «empresas que se convierten en sistemas de aprendizaje«: las restricciones relevantes son organizacionales, no individuales. De hecho, muchos empleados están avanzando hoy más rápido que sus propias organizaciones.
Las preguntas del CEO
Cuando discuto esto con directivos en mis clases, la respuesta instintiva suele ser preguntarme cuál es el mejor modelo. Cada vez me convenzo más de que esa es la pregunta equivocada, o incluso directamente absurda. Las preguntas del nivel de CEO no son «¿cómo de inteligente es el modelo?» ni «¿cuántos agentes podemos desplegar?», sino algo más parecido a esto: «cuando este sistema actúa sin que nadie supervise cada paso, ¿qué es lo que lo mantiene apuntando hacia el resultado de negocio que realmente nos importa?»
Llevamos tres años haciendo la inteligencia artificial asombrosamente capaz. Ahora empezamos a descubrir que la capacidad sin dirección no es autonomía: es deriva. El próximo gran avance empresarial vendrá de poner un «algo» competente en un asiento que ahora mismo está vacío.
This article was previously published on Fast Company
¡Brillante análisis! La inteligencia artificial corporativa no falla por falta de potencia en los modelos, sino por la ausencia de un timón, control y gobernanza empresarial clara. ¡Gracias por compartirlo!
spam
Y PAM…!!!
Niego la primera… En una interacción de tú a tú ,con una IA, solo un control exhaustivo del proceso te puede conseguir un resultado positivo… Cada dos por tres necesitas redirigir el caminr de la IA, porque si no te devuelve solo el 50% (o menos) de lo que le pediste… Y curiosamente por exceso de incorporaciones en la imagen. No sé si con frases escritas ocurre lo mismo.
Es cierto que mi escasa relación es un grano de arena en la playa, pero no soy tan tonto como para no notar de qué pie cojea una IA, programada por una IH… Veremos si con mucho tiempo se consigue autoenderezar… ya que supongo que aprenden de ti… pero hay que darle bastante caña, para que lo que le pides tenga un nivel de eficiencia mayor de un 60%… Incluso cuando, en la frase anterior, ya le advertiste de algo que debía suprimir… pero…
Supongo que, en un procesos largo, donde intervienen varias IH en su control, la IA tendrá que ir haciendo como la naturaleza (sea lo que eso sea): retomar la escasa inteligencia que usa la humanidad, para ir sacando adelante algo que pueda ser más que mediocre. Pero, mientras no madure, irá derivando por caminos insondables y misteriosos, solo explicables (?) para ella.
Cuando Enrique dice:
«¿Por qué pasa esto? Básicamente, porque cuando lo usas tú, eres tú quien lleva el timón: las correcciones, el reencuadre, el «olvida esto, dame más de aquello», hasta que decides que la respuesta es suficientemente buena»
Me recuerda a una película argentina
https://www.filmaffinity.com/es/film390263.html
«No sos vos soy yo»
Por supuesto los argentinos lo llevan a lo personal, y al psicoanálisis. Pero nosotros que somos castellanos viejos como Unamuno ( o catalanes viejos tanto monta monta tanto) lo llevariamos a su frase
«A un pueblo no se le convence sino de aquello de que quiere convencerse.»
Le película podeis pasar de verla, pero el documental de Unamuno es una joya….
Palabras para un fin del mundo
PS: Sobre la IA y FC… paso palabra
— «Javier, un médico treintañero que está recién casado, tiene planes de comenzar una nueva vida en Estados Unidos con María. Justo antes de partir a Miami para encontrarse con su mujer, ella lo llama para confesar que se ha enamorado de otro y terminar su relación. Javier está desesperado, ella es su vida y no sabe qué hacer. Así que trata de refugiarse en el sofá de su psicoanalista, en sus amigos y en el perro que acaba de comprar; todo para superar su incapacidad de estar solo y olvidar esa traición. «
Ni pagándome (y mucho), no vería la relación con el articulo, y mira que tengo imaginación… XDDD
(ni pagandome, y mucho, me tragaria cine argentino, pero ya es otra historia) :P
Lo de Unamuno me lo dejo pendiente… siempre he tenido interés en ese «giro argumental» del susodicho… que no he acabado de entender (y creo que muchos otros, tampoco).
Como regalo, os dejo una reflexion «Nietcheniana»…
NIETZSCHE avisó de lo que nos venía encima
A Xaquin debería gustarle (pero nunca lo sabremos…) XDDD
(lo de que los catalanes somos como los castellanos, nos llevaría a un cisma…) XDDD
Gracias por este enlace, Lua.
Qué gran aplicación de Nietzsche a la vida actual.
Hace muchos años, coincidimos un editor* y yo en que el Nacionalismo era la nueva religión de la que tanto renegaban. ¡Qué razón tenía!
* El nacionalismo ¡vaya timo!
Mira… así a voz de pronto… y de tu mismo enlace:
— «»Creer que una determinada comunidad es una ‘nación’ —afirma el autor de este ensayo— tiene que ver más con la fe que con la razón; es una creencia individual que puede ser compartida con otros y que está más cerca del pensamiento religioso que del científico, de ahí la dificultad de intentar rebatirla racionalmente»»
Las cosas del Opus, del que no me queda duda, tu desciendes a raíz de tus comentarios en este y muchos otros artículos, me parecen muy bien, en tanto yo RESPETO, las opiniones de los demás….
Pero cuando en la «critica/apoyo» de un libro, se suelta una barbaridad así, es para hacérselo mirar…
Quien se cree que es el autor del articulo (o cualquier, me voy a poner en modo LUA, gilipollas) para definir, que «sentir tiene la gente»…???
Tiene que decidir, un manchego, un leones, un albaceteño o un segoviano, como nos podemos decir “sentir”, en otra comunidad… como Catalunya, el país vasco o Galicia??? Darle un par de vueltas porque a esos “castellanos”, se les puede fácil, llamar “colonialistas”… Y fácilmente, colonialistas irreverentes como si no hubieran pasado los siglos por ellos… vamos, a darle la razón a Perez-Reverte y a que España es una y no cincuenta y una…
Retrataos…!!!
Lo dejo aquí, porque esto va a dar mucho jugo, y ninguno bueno…
Justo antes de la pérdida de los territorios en la Guerra Hispano-Estadounidense, el Gobierno español aprobó los Decretos de Autonomía de 1897 para Cuba y Puerto Rico (dejando fuera a Filipinas). Estas reformas les otorgaban un gobierno propio y un parlamento insular, un diseño institucional que los juristas e historiadores consideran el precedente remoto directo de los actuales Estatutos de Autonomía de las Comunidades Autónomas en España.
Colonias, mis cojones !!
Desde el punto de vista, de los “periféricos”, el centralismo castellano, siempre ha sido el mismo… ahora si quieres nos peleamos con lo de “tierra de conquista” y similares… os guste o no, a una amplia mayoría de los “periféricos”, no nos vais a convencer de pertenecer a esa “patriota España modo Perez-Reverte Alatriste on the fire….” Porque no… lo que era en territorio español, esos decretos (que por cierto, no sirvieron de nada”, no se aplicaron…) vete a venderla la burra a otro…
O, en cambio, nos podéis dar la razón cuando decimos que nos da igual el “españolo de derechas que el de izquierdas” por que todos pensáis lo mismo… y para nosotros, sois lo mismo… Y de ahí viene lo de “fascista es todo aquel, que no deja que los demás se expresen…” que tanto os duele… 1- Octubre 2017 dixit… “a por ellos!!!!” recuerdas???
No voy a seguir con esto… no vale la pena… que aquí muchos de izquierdas soberanas, pero a la hora de la verdad, no se/os distingue de Vox y similares… La patria es la patria…!!!! XDDD
Colonias, que???
Todos los fascismos surjen de la idea del nacionalismo mal entendido. Y al contrario cuando se llevan al extremo se convierten en lo mismo. En el fondo solamente hay una expresión de poder, aunque ejercicio del poder, que no tiene que ser autoritario pero en el fondo la parte siempre se sentirá vencida por el todo. El derecho de autodeterminación existe en la medida que hay una mayoría cualificada en porcentaje y con acceso a poder sobrevivir a su ejercicio. No es un espacio de discusión es constatar un hecho. Ese ejercicio no solamente se ejerce, con violencia o ejércitos, que está claro que es un handicap (que se lo digan a Palestina), existen otras armas que al final son dañinas para el pueblo que dicen defender, como es vender burras o diadas, vender el alma por una buena tajada en la banca y tener los frutos de la corrupción en Andorra, malversar pasta para socavar la legislación vigente, aprobando payasadas en un parlament que convierten en un circo, y luego a los 5 minutos, ya no, huyendo el molt honorable en un maletero, y que se chupe el VP la cárcel, califaicar de «botiflers» a los que no piensan como los mafiosos de la burguesía autóctona, etc etc…
La unica estelada que hay para esos vendepatrias, como dice Rufián, es «el billete de 50 pavos».
Así que hasta luego «MariCarmen!!», una cosa es tener una idea, como el pobre tío Claudio cuando decía que habia que reinstaurar la República en Roma, y otra es ser como Bruto, y traicionar al conjunto de la ciudadania, por ser un comemierda y sacar rédito electoral como Junts, y no tener vergüenza. Así que nada a manifestarse con Nucleo Nacional o con Aliança Catalana, que la misma mierda son.
COLONIAS: MIS COJONES,. VISCA CATALUNYA LLIURE DE FASCISTAS
Estoy muy, muy, muy lejos de esa secta de tarados egoístas que se hacen pasar por religiosos y, a pesar de mi agnosticismo, espero firmemente que este papa acabe con ellos como parece que pretende.
Los tengo en mi ciudad, arruinaron a mi padre porque no quiso entrar en su secta, los conozco muy bien.
En cuanto al nacionalismo, no es sino un pobre intento de hacer en miniatura aquello de lo que pretenden independizarse. Pero eso sí, sólo cuando son ricos.
E, indefectiblemente, acaban extendiendo su ideología política a la raza y a la cultura hasta que asocian ambas inseparablemente expulsando a todo aquél que ose llevarles la contraria.
También los tengo en mi ciudad, también los conozco muy bien.
En nada se distingue su discurso del de la ultra derecha porque son la misma basura.
No ves analogías porque no eres una IA:
La conexión que busca el article y que explotan los comentarios es **metafórica y estructural**, no temática. No hay una relación directa de trama, sino una analogía sobre **quién lleva el control**.
Aquí tienes las similitudes clave:
### 1. La ilusión de la autonomía
* **En la película ("No sos vos, soy yo"):** Los personajes (especialmente la pareja protagonista) creen que ellos mismos son los artífices de sus decisiones y relaciones. Sin embargo, la película revela que sus comportamientos, errores y conflictos están dictados por fuerzas externas, programaciones previas o dinámicas ajenas a su control consciente. La "autonomía" es una ilusión.
* **En el artículo:** Las empresas creen que sus agentes de IA son autónomos y toman decisiones por sí mismos. Enrique Dans argumenta que esa autonomía es una ilusión: los agentes no tienen "timón" ni dirección real. Quien realmente lleva el control (o debería) es el humano, pero a menudo ese control es invisible o inexistente, dejando que el sistema "derive".
### 2. La transferencia de responsabilidad
* **En la película:** El título es la clave. Es la negación de la responsabilidad personal ("no eres tú el problema, soy yo" o, más profundamente, "no somos nosotros quienes decidimos"). Es una forma de eludir la agencia propia atribuyendo las acciones a una causa externa o interna incontrolable.
* **En el artículo:** El error corporativo es pensar que el problema es la "falta de potencia del modelo" (culpar al motor) cuando en realidad es la falta de gobernanza (culpar o responsabilizar al sistema sin dirigirlo). Las empresas delegan la operación en la IA sin asumir la dirección, creando una situación donde nadie "lleva el timón".
### 3. La deriva por falta de dirección
* **En la película:** Al no haber un control consciente o auténtico, las vidas de los personajes derivan hacia el caos o la resolución inesperada, porque no hay un "piloto automático" con un objetivo claro.
* **En el artículo:** Dans usa la palabra **"deriva"**. Sin supervisión humana activa (el "timón"), los agentes de IA se desvían de los objetivos reales del negocio, aunque sean técnicamente competentes. La capacidad sin dirección no es autonomía, es deriva.
### En resumen:
El comentario de **BUZZWORD** hace la analogía perfecta:
> *Película:* "No sos vos, soy yo" → **Yo** (el sistema/la programación/la dinámica interna) soy quien realmente actúa, no vos (la conciencia superficial).
>
> *Artículo:* "El modelo no es suficiente" → La IA (el modelo) no es quien realmente dirige el proceso, sino que necesita un "vos" (el humano con el timón) que le dé dirección. Si no hay ese "vos", el sistema actúa por inercia o deriva.
La similitud es que **en ambos casos, la aparente agencia es falsa porque falta una dirección consciente y controlada.**
Los loritos nos sacan ventaja en buscar relaciones… no he quitado, ni puesto una coma…
PS: Me preocupa que una IA me entienda…. AGGGGGHHH!
Efectivamente, no soy una IA, y procuro mostrarme «humano»…
Una IA no te entiende…
Si yo le pido a cualquier IA, que me relacione, la película de los cojones,, con cualquier cosa que haya pasado en mi vida, de seguro, que encuentra relaciones… por estromboticas que sean…
Y seguro, que me da la razón y me acaba diciendo, que esa, es la película de mi vida…
Parece mentira, que tu saltes con eso… XDDD
Pues en este caso, el sentido lo clava
Si, porque tu que ni me has visto la cara, tienes muy claro como es mi vida… manda huevos… XDDD
Os dejo esto por aquí… porque.. que si las empresas tal y cual, y los únicos que hacen negocio, son estos (si, todos podemos decir: «que pringados»… esta misma semana les paso a mis padres. Menos mal que los tengo aleccionados y conocían la «palabra clave»):
Te llama tu hijo llorando y ya no sabes si es él
Más vale que la IA aporte también el liderazgo porque su ausencia es el elefante en la habitación de todas las organizaciones, particularmente las más grandes.
La IA nos ayuda ahora a trabajar con más eficiencia. Es dentro de mucho tiempo cuando a la IA se le pregunte como crear un banco desde la nada y que atienda eficientemente a todos los ciudadanos, incluso los de la españa vacía, y lo hará.