Enrique Dans

Los Large Language Models, o LLMs, son máquinas impresionantes y maravillosas. Pero lo que las compañías necesitan ahora es un nuevo tipo de sistemas que puedan actuar, observar consecuencias y aprender de la realidad a medida que va transcurriendo.

Llevo ya unos cuantos meses escribiendo sobre uno de los temas para mí más centrales y preocupantes en el entorno de la inteligencia artificial corporativa. Y por supuesto, no estoy haciéndolo únicamente desde una óptica académica: por mucho que sea profesor de una universidad y tenga más de treinta años de experiencia, soy también Director de Innovación de una startup de inteligencia artificial en la que el 90% de la plantilla son desarrolladores, y eso me está exponiendo a toda una nueva gama de habilidades. Moverme desde la teoría al código de ida y vuelta, día sí y día también está resultando ser una experiencia enormemente enriquecedora.

La primera cuestión clara y que ya todos deberíamos saber es que los LLM son extraordinariamente capaces y brillantes, pero que no están diseñados para funcionar en entornos corporativos más que como auxiliares administrativos de trabajadores humanos, que es como se los plantean las compañías menos ambiciosas. Sí, son muy buenos a la hora de generar respuestas, pero la organizaciones tienen otros requerimientos: estados persistentes, estructuras formales, permisos, bucles de retroalimentación, objetivos medibles, y la capacidad de aprender de los resultados.

Cuanto más se desplazan esas ideas desde los artículos y los diagramas al software funcional, más claro aparece el problema. Los conceptos que suenan perfectamente convincentes en prosa tienden a colapsar y a no funcionar cuando alguien tiene que expresarlos en forma de código ejecutable. La «memoria» como tal no es un modelo de datos. La «autonomía» significa más bien poco sin permisos. El «aprendizaje» no es lo mismo que la simple acumulación de contexto. Y la «optimización», como todos sabemos, se convierte en peligrosa salvo que alguien defina exactamente qué diablos es lo que le hemos pedido al sistema que optimice.

No estamos hablando simplemente de un problema técnico: es epistemológico. La industria de la inteligencia artificial ha construido máquinas esencialmente aristotélicas, y lo que las compañías necesitan es una aproximación mucho más al estilo de Francis Bacon.

Las máquinas aristotélicas más potentes jamás creadas

Durante los últimos dos mil años, el pensamiento occidental ha estado fuertemente influenciado por la extraordinaria influencia de Aristóteles en la lógica y la deducción. Empezamos con las premisas, razonamos generalmente de forma correcta a partir de ellas, y llegamos a conclusiones. El silogismo que todos hemos estudiado en Filosofía es el ejemplo clásico: todos los humanos son mortales; Sócrates es humano; por tanto, Sócrates es mortal. Si las premisas son correctas y el razonamiento es válido, la conclusión es tan solo el siguiente paso.

Todos los LLMs que conocemos hasta el momento funcionan de una forma sorprendentemente similar: comienzan absorbiendo enormes cantidades de conocimiento humano que estaban almacenadas en internet, las transforman en vectores, y generan la continuación estadísticamente más coherente a partir de lo que han aprendido. Haciendo eso pueden razonar, comparar, resumir, hacer inferencias, explicar y combinar ideas a través de distintos dominios de conocimiento con un nivel de sofisticación francamente destacable.

Sin embargo, esos modelos permanecen enclaustrados en la información que tienen disponible. No observan de forma inherente lo que ocurre una vez que han producido una respuesta. No comprueban si una recomendación ha funcionado. No revisan su estructura operativa cuando un cliente se va, cuando fracasa una campaña o cuando una política aparentemente eficiente provoca un problema inesperado en algún otro sitio.

¿Y las alucinaciones? Cuando un modelo alucina, no es necesariamente un problema en su funcionamiento: está en realidad generando una conclusión plausible a partir de premisas imperfectas, pero sin ningún mecanismo estructural que le permita comprobar esa conclusión con la realidad. Las propias investigaciones de OpenAI conectan las alucinaciones con la predicción de la siguiente palabra y con sistemas de entrenamiento que recompensan el hacer conjeturas. en lugar de reconocer cualquier tipo de incertidumbre.

Esa es una propiedad profundamente aristotélica.

Francis Bacon fue quien cambió la arquitectura del conocimiento

Filosóficamente, la contribución de Francis Bacon no fue simplemente argumentar que la observación era importante: eso ya lo habían señalado antes mucha gente que habían observado el mundo y extraído conclusiones sobre él mucho antes que Francis Bacon. Su profunda y fantástica contribución fue la de situar la observación dentro de una estructura de aprendizaje repetible: formular una idea, probarla frente a la realidad, observar el resultado, revisar las hipótesis, y repetir. Su método rechazaba la primacía de las demostraciones silogísticas en favor de un proceso que se movía desde las observaciones a los principios, y de vuelta a nuevos experimentos y resultados prácticos.

La revolución científica no emergió por el hecho de que Bacon fuese necesariamente más inteligente que Aristóteles, sino porque el método baconiano organizaba la inteligencia de una forma completamente diferente. Permitía probar los descubrimientos, exponer los errores, acumular los resultados y construir repositorios de conocimiento a través de distintas personas y generaciones. La innovación decisiva en todo esto fue el bucle.

Esta distinción es extremadamente importante en el caso de la inteligencia artificial. Los modelos de frontera de hoy en día son nuestros Aristóteles: motores individualmente brillantes capaces de llevar a cabo inferencias extraordinarias, suprahumanas. Pero el próximo paso no es construir un Aristóteles más grande y con más parámetros, más datos de entrenamiento y una ventana de contexto más grande, sino construir una estructura baconiana y crear bucles a su alrededor.

Las compañías necesitan experimentos, no respuestas

La mayoría de la inteligencia artificial generativa todavía funciona como un sistema de bucle abierto: una persona pregunta algo, el modelo produce una respuesta, y la interacción termina ahí.

Esto funciona extremadamente bien para tareas individuales como escribir un correo electrónico, resumir un informe, explicar un concepto generar algunas ideas sobre algo, traducir un documento… Sin embargo, como cualquiera con un mínimo de experiencia en el mundo corporativo podrá entender y corroborar, las compañías no son conjuntos de peticiones aisladas: son sistemas de acciones y consecuencias. Como ya he comentado previamente en artículos anteriores, la inteligencia artificial corporativa tiene que desplazarse desde las respuestas a los resultados, de las indicaciones a las restricciones y de los copilots a los sistemas de acción.

Un modelo puede recomendar cambiar un precio, modificar un argumentario de ventas, priorizar a ciertos clientes, reorganizar un flujo de trabajo o rediseñar un proceso de aprobación. Pero la calidad de esas recomendaciones no puede ser juzgada únicamente por cómo de persuasiva suena… debe juzgarse en función de lo que pasó después.

Después de la recomendación del modelo, ¿mejoró la conversión? ¿Se incrementó el churn? ¿Subieron los márgenes? ¿Disminuyó la confianza de los clientes? ¿Redujo el nuevo proceso el trabajo en un departamento mientras lo elevaba hasta límites inasumibles en otro? Cada acción tomada en una compañía es, lo admitan o no sus directivos, un experimento en sí misma.

Una inteligencia artificial corporativa genuinamente baconiana debería tratarlo precisamente de esa manera. Conectar acciones con resultados, resultados con objetivos, y objetivos con comportamientos futuros. En lugar de generar simplemente una recomendación, observar sus consecuencias y, muchos más importante, tomar nota y aprender de ellas.

Como seguramente muchos están empezando a darse cuenta, la unidad de valor aquí ya no va a ser la respuesta: va a ser el bucle.

Por qué la implementación cambia la teoría

Aquí es donde convertir ideas en código ejecutable se convierte en un proceso intelectualmente útil: a medida que me desplazo desde el mundo académico hasta las implementaciones en el mundo real. me voy dando cuenta de que el código es mucho menos tolerante con respecto a la ambigüedad que la prosa.

Es muy fácil escribir que un sistema de inteligencia artificial corporativa debería «aprender de la compañía». Pero un desarrollador o un arquitecto de software tiene que preguntarse qué constituye una observación, dónde está almacenada, cuáles son los eventos relevantes, cómo se atribuyen los resultados a las decisiones previas, o qué diablos pasa cuando tienes múltiples objetivos que dan lugar a conflictos entre ellos.

Es muy fácil decir que un agente debería actuar de manera autónoma. Pero una implementación tiene que definir a qué objetos debe tener acceso, qué funciones puede invocar, qué puede modificar, cuándo es necesaria una aprobación humana, y sobre quién va a recaer una responsabilidad.

Es fácil recomendar la optimización continua. Pero… ¿optimizar para qué? Un sistema de servicio al cliente que incentive la reducción del tiempo empleado en cada reclamación o conversación podría comprensiblemente llevar a tratar de terminar esas conversaciones lo antes posible. Un sistema de contratación optimizado para la retención de personal podría seleccionar a los más conformistas. Un sistema de ventas recompensado en función de la conversión podría descubrir técnicas que funcionan comercialmente, pero erosionan la confianza de los clientes.

Un bucle puede ser erróneo, y acumular esos errores repetidamente hasta provocar una catástrofe. Por eso la inteligencia artificial corporativa no puede separarse de la gobernanza: cada función de recompensa es en realidad una teoría codificada de lo que importa, cada restricción expresa una decisión institucional determinada, cada límite de permiso es en realidad una asignación de autoridad.

No son simplemente decisiones de ingeniería: son opciones corporativas expresadas en forma de software. El NIST AI Risk Management Framework también considera la gobernanza como actividad continua y transversal que debe conectar el diseño técnico con las políticas organizacionales, los valores, las responsabilidades, la monitorización y los resultados cuantificables a lo largo del ciclo de vida de todo el sistema. Estamos, claramente, muy por encima del nivel de los chatbots habituales que conocemos y utilizamos.

De la simple generación al aprendizaje: la verdadera transición

La industria sigue dirigiendo su atención a las capacidades de los modelos: cuál razona mejor, cuál escribe código más rápido, cuál es capaz de usar más contexto o cuál consigue el mejor resultado en un benchmark determinado. Y sí, esos logros pueden ser importantes… pero son simples mejoras en inteligencia individual.

La oportunidad para las compañías está en otro tema: en la inteligencia colectiva, en la arquitectura que coordina modelos, personas, datos, procesos, objetivos y retroalimentación de forma que la organización es capaz de mejorar a la hora de conseguir sus objetivos. Precisamente por eso el modelo no debería ser el activo duradero de la compañía: lo que debería serlo es el bucle de aprendizaje que lo rodea.

Mientras la inteligencia artificial generativa produce, la inteligencia artificial baconiana aprende. La primera crea contenido a partir de premisas acumuladas, mientras la segunda actúa en en un entorno definido, observa lo que va cambiando en él, e incorpora el resultado en la decisión siguiente. Si el famoso paper que definió los transformers fue «Attention is all you need», lo que nosotros decimos es «Feedback is all you need».

Y cuando lo piensas, no estamos hablando de una capacidad incremental que añadir a un chatbot, sino de una forma completamente diferente de entender para qué es la inteligencia artificial corporativa. En último término, requiere que las compañías no simplemente «se automaticen», sino que se conviertan en formalmente representables y optimizables.

Ese futuro no se construirá eliminando la máquina aristotélica, porque sus capacidades deductivas siguen siendo enormemente valiosas y útiles. Esos LLMs generarán hipótesis, interpretarán situaciones, propondrán acciones y harán sistemas complejos fácilmente accesibles a través del lenguaje. Pero para ello, necesitarán actuar dentro de una arquitectura en la que la realidad, y no simplemente la elocuencia, sea el árbitro final.

La inteligencia artificial corporativa no necesita otro Aristóteles: necesita su Francis Bacon.

This article was previously published on Fast Company.