El vicepresidente sénior y responsable de Celonis en Madrid, Jorge Ferrer - CELONIS
MADRID, 8 Oct. (Portaltic/EP) -
Las empresas están entrando en una nueva fase de adopción de la inteligencia artificial (IA), donde ya no basta con demostrar qué puede hacer esta tecnología, sino que se empiezan a exigir resultados concretos y a examinar cuánto cuesta realmente cada tarea ejecutada por la IA, con el foco puesto en el 'token taming', es decir, en usar los tokens de la manera "más eficiente posible".
Así lo ha compartido el vicepresidente sénior y responsable de Celonis en Madrid, Jorge Ferrer, en declaraciones a Europa Press, quien ha puesto sobre la mesa cómo el consumo de tokens ha dejado de ser una cuestión puramente técnica para pasar a convertirse en una preocupación económica para las empresas.
"Los directores financieros están analizando minuciosamente los presupuestos destinados a la IA y rechazan la cultura del 'tokenmaxxing', caracterizada por un consumo desenfrenado y unos costes desorbitados", ha valorado Ferrer, al tiempo que ha subrayado que, hoy en día la tendencia es el 'token taming', que se basa en "optimizar la implementación de la IA para minimizar el consumo de tokens y maximizar los resultados".
Se trata de una tendencia relevante porque, a medida que las compañías extienden la IA a miles de empleados, procesos y operaciones, cuestiones como instrucciones excesivamente largas, consultas redundantes o comprobaciones continuas, pueden multiplicar el trabajo de la IA hasta generar una factura considerable.
En este marco, la "austeridad de tokens y el control de tokens" (token austerity y token taming), buscan optimizar la ejecución de la IA empresarial. "No se trata de usar menos tokens, sino de usarlos de la manera más eficiente posible", ha subrayado Ferrer.
LA IMPORTANCIA DEL CONTEXTO OPERATIVO PARA EL 'TOKEN TAMING'
Para lograr esta eficiencia, Ferrer ha incidido en que la IA necesita entender "cómo fluye el trabajo en una organización", porque conectar un modelo con los datos empresariales no es suficiente. Necesita comprender cómo se relacionan esos datos dentro de los procesos, qué reglas condicionan cada decisión, qué excepciones pueden producirse y cuál es el objetivo operativo que se persigue.
Por ejemplo, al consultar sobre una incidencia con un pedido atrasado, para responder correctamente el agente de IA no solo debe conocer el estado del pedido, sino también entender las dependencias logísticas, la disponibilidad de inventario, las condiciones acordadas con el cliente, las políticas internas y las posibles alternativas para resolver la incidencia.
De lo contrario, el modelo debe analizar más información, formular nuevas consultas, reconstruir la lógica empresarial y revisar sus propias respuestas, incrementando el consumo de tokens, los costes y el riesgo de error.
Como ha detallado Ferrer, "sin el contexto operativo de cada compañía, los agentes se ven obligados a interpretar la información generalista que reciben, y acaban por hacer suposiciones", una tarea que acaba por incrementar costes.
Sin embargo, con el contexto operativo, la IA puede "derivar tareas y decisiones al modelo adecuado". Es decir, según ha matizado el directivo, puede asignar pasos sencillos a modelos más rápidos y menos costosos y, de la misma manera, asignar tareas más complejas a modelos que ofrecen un mayor nivel de razonamiento, "aunque también sean más caros".
"Además, cuando se les proporciona el contexto operativo adecuado, los agentes pueden utilizar una única llamada determinista para llegar a una respuesta, en lugar de una sucesión de hipótesis probabilísticas que consumen tokens innecesariamente", ha apostillado el directivo de Celonis.
De este modo, la denominada "austeridad de tokens" no consiste simplemente en limitar el uso de la IA, sino en utilizarla de forma más disciplinada, predecible y alineada con los resultados del negocio.
SOLUCIONES COMO CELONIS CONTEXT MODEL
Frente a esta problemática, soluciones como Celonis Context Model se presentan como una manera de permitir a las organizaciones pasar de una estrategia de IA empresarial basada en el 'tokenmaxxing' a una de 'token taming'.
Como ha subrayado Ferrer al respecto, la inteligencia de procesos y, concretamente, el Celonis Context Model, permiten a los agentes comprender cómo fluye el trabajo a través de una organización y actuar en consecuencia para evitar que todas las tareas utilicen un modelo de IA de frontera de alto coste.
"El agente puede derivar las tareas sencillas a modelos que consumen pocos recursos, reservando el razonamiento de alto coste exclusivamente para aquellas decisiones que realmente lo requieran", ha explicado.
Todo ello, se enmarca en un momento en el que los consejos de administración exigen un retorno de la inversión en IA (RoAI). Por lo que la IA empresarial "ya no se limita a la experimentación, sino que se centra en soluciones que aportan resultados empresariales reales".
Según Ferrer, las empresas están pasando de los "proyectos piloto ilimitados" a un control presupuestario más estricto, "allanando el camino para que la economía unitaria de la IA evolucione en torno a una nueva métrica clave: los ingresos por token".
Es por todo ello que las empresas recurren cada vez más a plataformas con capacidades de orquestación y análisis de agentes para "realizar un seguimiento de los costes de ejecución y justificar los resultados empresariales en relación con el consumo de tokens".