Ollama 0.35 integra modelos de decisión tipo Jev para clasificar texto y enrutar solicitudes de forma local
Ollama anunció que su versión 0.35 incorpora soporte para modelos de decisión tipo Jev, orientados a tareas como la clasificación de tickets, el enrutamiento de modelos y la clasificación de contenido. De acuerdo con el comunicado de la compañía, estos modelos se ejecutan completamente de forma local.
La empresa detalló que la nueva System One API está basada en la Jev API de TypeSafe. A través del endpoint /v1/systemone, los usuarios pueden enviar texto junto con un conjunto de preguntas, lo que permite clasificar texto, responder preguntas de sí o no, o calificar texto contra una rúbrica. Según el comunicado, la respuesta del sistema incluye la etiqueta seleccionada y una probabilidad para cada opción.
Entre los modelos disponibles, Ollama mencionó a Nimble 9B, de Bespoke Labs, así como a Tev1 4B y Tev1 0.8B, ambos de Together AI. La compañía indicó que para utilizar estas capacidades es necesario actualizar Ollama a la versión 0.35 o superior y después descargar el modelo, por ejemplo con el comando ollama pull nimble. Posteriormente, señaló, es posible clasificar un ticket de soporte, con la particularidad de que el modelo corre en la máquina del usuario y no requiere una clave de API.
El anuncio forma parte de las capacidades que Ollama describe para su plataforma, enfocadas en ejecutar modelos de manera local para tareas de decisión. La compañía remitió a los ejemplos publicados en su blog, a la documentación de la System One API y a los ejemplos de API para conocer cómo comenzar a utilizar estas funciones.
