Hacia la hiper-convergencia

Con convergencia nos referimos al proceso por el cual tecnologías, disciplinas o sistemas que tradicionalmente han evolucionado de forma separada comienzan a aproximarse, integrarse y, en algunos casos, volverse prácticamente indistinguibles entre sí.

A modo de anécdota, hace unos días me encontraba ayudando a unos amigos que acababan de adquirir una posición en una empresa y comenzaban con la gestión. En un momento dado decidieron revisar la política de precios de los productos en venta. Tras un debate más o menos relajado, uno de ellos decidió consultar a ChatGPT. Le lanzó un dump de la facturación reciente, otras transacciones, el catálogo de productos y algunas expectativas, y el modelo le devolvió el catálogo prácticamente hecho.

Curiosamente, aceptaron la propuesta sin demasiados cambios y para el cliente que fue. En paralelo, y como experimento, yo mismo envié la oferta de productos junto con la información disponible en fuentes abiertas sobre la empresa a los principales modelos «de frontera» disponibles en OpenRouter. Todos daban un OK claro al respecto. De hecho, la veían con buenos ojos: justa y razonable.

Un par de días después llegaba un correo del cliente, curiosamente parecido a lo que brota de un asistente conversacional, con un OK bien claro.

¿Quién controló realmente el proceso? ¿O qué?

El mundo corporativo contemporáneo empieza a parecer una cadena interminable de profesionales copiando y pegando información desde asistentes conversacionales, correos escritos y respondidos por IA y decisiones delegadas a la máquina. A ello se suman cadenas completas, o «flujos de trabajo», agénticos, en los que parte de ese intercambio puede suceder sin que una persona intervenga en cada paso.

Tiene su utilidad. Y permite volver sobre un problema clásico: el problema del cálculo económico.

Una de las dimensiones fundamentales de este problema es la información incompleta y distribuida. Qué recursos existen, dónde se encuentran, qué necesita cada agente, qué está dispuesto a ofrecer y qué alternativas tiene disponibles. Buena parte de esa información es local, cambia con el tiempo y resulta difícil de transmitir en su totalidad. Estamos, por ende, ante un problema de información y comunicación y, a través de ambas, de coordinación. Esta dimensión del problema fue desarrollada por el economista austríaco Friderich Hayek en su trabajo sobre el uso del conocimiento en la sociedad.

Los mercados permiten abordar esa coordinación mediante ofertas y demandas, de manera descentralizada. Cada agente actúa localmente, con la información de la que dispone, y el conjunto de esas interacciones genera precios y señales que orientan las decisiones de los demás. El sistema se ajusta a través de intercambios sucesivos, conforme aparecen nuevas necesidades, recursos o posibilidades.

El concepto de mercado, además, se extiende de manera natural a cualquier área del conocimiento. Hablamos de mercados de ideas, de innovación, de cultura, de arte… En todos ellos encontramos propuestas que se ponen a prueba, reciben atención, se modifican, se combinan o desaparecen. Desde esta perspectiva, el mercado puede entenderse como un mecanismo de búsqueda cuando resulta imposible disponer de toda la información necesaria para dar con una solución analítica. La solución debe encontrarse de manera computacional, mediante la interacción y el ajuste entre agentes.

Los LLM pueden entenderse como sistemas de compresión de información a escala global. Durante su entrenamiento aprenden regularidades presentes en enormes volúmenes de datos; la relación entre predicción y compresión permite estudiar precisamente esa capacidad. Conectados a fuentes externas, pueden trabajar también con información que no estaba disponible durante su entrenamiento.

Por ende, resulta razonable pensar que pueden comprimir y acelerar parte de esos flujos de información, aproximando soluciones útiles a determinados problemas de cálculo económico. Pueden comparar alternativas, relacionar información dispersa y proponer decisiones con una rapidez difícilmente alcanzable mediante procesos manuales. El alcance de esas soluciones seguirá dependiendo de la información disponible, de los objetivos planteados y de la capacidad de contrastarlas con lo que sucede después.

Para el proceso que aquí nos ocupa, resulta secundario que el modelo sea de OpenAI, Anthropic, DeepSeek o cualquier otro proveedor. La rapidez de los ciclos de transferencia de innovación invita a pensar que los LLM tenderán a converger hacia soluciones similares en lapsos cada vez más cortos. De hecho, ya se ha observado una considerable homogeneidad entre las respuestas de modelos distintos ante preguntas abiertas. Podemos, por ende, hablar de «inteligencia artificial» de manera genérica para describir esta tendencia, aun manteniendo las diferencias que existen entre sistemas.

Esto introduce una cuestión relevante para el ejemplo inicial. Consultar a varios modelos puede devolvernos respuestas coincidentes sin que estemos obteniendo valoraciones realmente independientes. La coincidencia también puede ser una manifestación de esa convergencia.

El fenómeno se extiende desde la puesta rápida de precios hasta el desarrollo de proyectos técnicos y la investigación científica. Este mismo septiembre, OpenAI publicó una demostración sobre la formación de singularidades en las ecuaciones de Navier–Stokes con forzamiento suave, producida por un sistema interno y acompañada de una formalización en Lean. La compañía la presenta como una solución a una de las formulaciones del problema del milenio.

Si ampliamos la perspectiva al conjunto de técnicas de inteligencia artificial, encontramos también desarrollos en biotecnología, como la predicción de estructuras e interacciones entre proteínas, ácidos nucleicos y otras moléculas. Son sistemas distintos, aplicados a problemas distintos, que amplían nuestra capacidad de trabajar con información y explorar soluciones.

No obstante, esto viene acompañado de problemas.

Aparece, en primer lugar, el problema de la sensorización y la calidad del modelo. Esto es, de qué información capturamos del entorno, cómo la representamos y qué parte de ella queda fuera. Un sistema de inteligencia artificial puede operar con información degradada, incompleta o desactualizada. Si sus decisiones alimentan otros procesos, esas limitaciones pueden propagarse y perjudicar al conjunto del sistema a largo plazo.

En el ejemplo de los precios, un catálogo puede parecer razonable a todos los modelos consultados y seguir omitiendo una restricción de producción, una conversación pendiente con un proveedor o una necesidad del cliente que nadie haya incorporado a la consulta. La información con la que se formula el problema condiciona la solución.

Además, al delegar su actividad intelectual, el ser humano puede reducir su propia capacidad de generación original si deja de observar, contrastar y formular problemas. Su contacto directo con el entorno le permite incorporar información que quizá nunca llegue al asistente conversacional: lo que sucede durante una visita, una conversación informal, una dificultad que todavía nadie ha documentado.

La sensorización humana tiene sus límites, aunque puede ser más completa respecto al problema concreto que el propio ser humano pide resolver y sobre el que opera. Al fin y al cabo, el mundo del que estamos hablando es el mundo de los humanos. Nuestras empresas, productos, servicios y sistemas de organización están construidos por y para seres humanos. Nosotros definimos las necesidades, los objetivos y buena parte de los criterios con los que evaluamos el resultado. Nosotros definimos nuestro mundo.

A ello se añade el problema de la copia de la copia. Si los modelos se entrenan de manera sucesiva con información generada por otros modelos, sustituyendo los datos originales, pueden perder diversidad y representación de los casos menos frecuentes. Este fenómeno, conocido como model collapse, se ha observado experimentalmente en procesos de entrenamiento recursivo.

Su aparición depende de cómo se construya ese proceso. Conservar los datos originales y acumular nueva información junto a ellos puede evitar la degradación observada en esos experimentos. Por ende, la procedencia, la diversidad y la conservación de la información siguen siendo relevantes incluso cuando disponemos de máquinas capaces de producirla en cantidades enormes.

Aquí encontramos también el problema de explotación y exploración, habitual en los sistemas de tipo bandit. Explotar consiste en utilizar las opciones que, con la información disponible, parecen ofrecer mejores resultados. Explorar implica probar alternativas sobre las que sabemos menos, asumiendo un coste o un resultado inmediato peor a cambio de obtener nueva información. Si el sistema se limita a explotar lo conocido, puede dejar de descubrir opciones mejores.

Parte de la innovación humana puede entenderse desde esa misma lógica. Aburrirse, salirse del camino, desoptimizar temporalmente para ver el problema desde otra óptica. Introducir información inesperada. Dedicar tiempo a algo cuya utilidad todavía resulta difícil de explicar y que, precisamente por ello, difícilmente habría sido seleccionado por un proceso orientado a maximizar el resultado inmediato.

La siguiente generación de sistemas autónomos deberá atacar el problema de la sensorización del entorno y de la construcción de modelos capaces de representar lo que sucede en él. Es una de las líneas que plantea Yann LeCun: sistemas que aprendan modelos del mundo, anticipen las consecuencias de sus acciones y utilicen esas predicciones para razonar y planificar. Los trabajos sobre V-JEPA desarrollan parte de esta aproximación a partir de observaciones visuales e interacción física.

A ello habrá que añadir la capacidad de introducir aleatoriedad de manera efectiva, explorar alternativas y contrastar sus consecuencias. Esa exploración tendrá valor en la medida en que permita incorporar información nueva y revisar lo aprendido. Los sistemas deberán ser capaces de capturar y entender el comportamiento emergente que se genere durante ese proceso, incluyendo resultados que no estuvieran contemplados en el planteamiento inicial.

Cabe imaginar, por ende, sistemas de nueva generación que combinen un acceso cada vez más amplio a bancos de conocimiento globales con información textual en tiempo real, desde transacciones económicas hasta mensajes en plataformas de chat, e información física del entorno. La separación entre consultar, observar, decidir y actuar se irá reduciendo conforme esas capacidades se integren.

El acceso a esa información estará condicionado por la legislación vigente en cada región del mundo, por los permisos de sus propietarios y por la capacidad de proteger los sistemas que la contienen. En ese escenario, la competencia por acceder a espacios de información de interés político y económico podría mantener una situación de ciber-guerra latente o patente, entendida aquí como una disputa por el acceso, el control y la defensa de esos espacios.

De igual modo, las máquinas podrán buscar nuestra «energía vital» en un sentido más poético que el literal que vemos en The Matrix: nuestra capacidad de salir de la caja, de aburrirnos o de mirar más allá del circuito, hacia ese ángulo muerto capaz de romper la endogamia en el dataset y permitir que el sistema siga incorporando algo que todavía no conocía.

Avanzando hacia la hiperconvergencia.

Deja un comentario