Enrutamiento y escalamiento dinámico del modelo

Hasta ahora, Kronym usaba el modelo de IA más grande y más capaz para algunas operaciones internas, pero no todo necesita un modelo grande: muchas tareas las resuelve igual de bien un modelo más económico y más rápido. Y como algunas funciones de IA tienen un costo para ti, usar siempre el modelo más grande encarecía cada uso sin necesidad.

La alternativa sería que elijas tú el modelo en cada uso de la IA, y eso no es sencillo: tendrías que conocer las diferencias entre modelos, adivinar qué tan difícil es cada tarea antes de empezar y equilibrar precisión y costo cada vez. Si eliges el modelo más pequeño, te arriesgas a un resultado incompleto; si eliges el más grande, pagas de más.

Con el enrutamiento y el escalamiento dinámico del modelo de Kronym AI Ready, Kronym lo hace automáticamente: cada tarea la resuelve la IA justa para ella. Antes de empezar, Kronym mide la tarea y elige el modelo que necesita, sin esperar a que uno más pequeño falle; y si aun así el resultado no convence, sube a uno más capaz.

Qué son

Son dos mecanismos distintos con un mismo objetivo: reducir el costo por inferencia de IA sin perder precisión. El enrutamiento actúa siempre, antes de llamar a la IA, y decide con qué modelo empieza la tarea. El escalamiento dinámico actúa solo después, y únicamente cuando el resultado no pasa las verificaciones. No siempre se ejecutan los dos para una tarea: un documento sencillo pasa por el enrutamiento y termina ahí, con el modelo más económico; uno difícil puede pasar por los dos.

Enrutamiento

Antes de la primera llamada, Kronym mide la tarea sin IA, en tu propia computadora y antes de subir el archivo, y elige el modelo con que empieza. En un documento: cuántas páginas tiene, si está escaneado o cuántos ítems lista el SOCE para el proceso. Lo sencillo empieza con el modelo más económico; lo que ya se sabe difícil empieza directamente con uno más capaz, sin pagar un intento que no va a servir.

Escalamiento dinámico

Después de cada respuesta, Kronym la revisa en dos niveles. Con IA, en la misma respuesta y sin costo extra, el modelo declara su nivel de confianza y si las especificaciones estaban fuera de la tabla y logró unirlas todas a su ítem. Sin IA, Kronym comprueba con reglas que haya ítems, que cada uno tenga descripción y cantidad y que la numeración no salte. Solo si algo no cuadra, repite la tarea con un modelo más capaz, y al final te dice con cuál la resolvió y por qué subió.

Beneficios

• Menor costo para ti. Las tareas sencillas se resuelven con el modelo más económico; los modelos mayores solo trabajan cuando hacen falta.
• Precisión en los casos difíciles. Si un resultado no pasa una verificación, no te quedas con algo incompleto: lo repite un modelo mayor.
• Más rapidez. El modelo más económico es también el más rápido: en las tareas sencillas tienes el resultado antes.
• Nada que configurar. No eliges modelo: Kronym lo decide en cada caso y te dice con cuál lo resolvió.

Se estrena en la extracción de ítems

El primer uso del enrutamiento y el escalamiento dinámico llega con la Generación automática de proformas de Necesidades de Contratación e Ínfimas Cuantías con IA, al extraer los ítems de un documento del proceso. Ahí el modelo declara su confianza y si unió a cada ítem las especificaciones que estaban fuera de la tabla, y las reglas revisan que haya ítems, vengan en una tabla, en una lista o en párrafos de un Word convertido a PDF, que cada ítem tenga descripción y cantidad y que la numeración no salte.

También entiende documentos con la información repartida: si la tabla de cantidades está en una sección y las especificaciones en otra, la IA une a cada ítem sus especificaciones cuando están claramente vinculadas, por ejemplo «Ítem 3: …» o una ficha técnica con el mismo número. Y si dos partes no coinciden, como una tabla que pide 100 unidades y un anexo que pide 120, te lo advierte: qué ítem es, qué dice cada parte y cuál tomó.

Pruébalo

Elige un tipo de documento para ver qué hace Kronym al extraer sus ítems.