Un modelo de lenguaje de gran tamaño (Large Language Model o LLM) actúa como motor de ra­zo­na­mie­n­to de Hermes Agent. Procesa in­s­tru­c­cio­nes, evalúa re­su­l­ta­dos in­te­r­me­dios, decide cuál debe ser el siguiente paso y genera llamadas es­tru­c­tu­ra­das a he­rra­mie­n­tas. Por eso, al elegir el LLM para Hermes Agent, son es­pe­cia­l­me­n­te im­po­r­ta­n­tes la calidad del modelo, la longitud de contexto y la fia­bi­li­dad de las llamadas a he­rra­mie­n­tas (tool calling), ya que de estos factores depende en gran medida que Hermes pueda ejecutar tareas complejas de forma estable y autónoma.

Resumen

Lo más im­po­r­ta­n­te sobre la elección del LLM para Hermes Agent:

  • Re­qui­si­tos mínimos: al menos 64 000 tokens de contexto y una co­m­pa­ti­bi­li­dad fiable con llamadas es­tru­c­tu­ra­das a he­rra­mie­n­tas; los modelos con ventanas más pequeñas se rechazan al iniciar Hermes.
  • Ope­n­Rou­ter: una sola clave API para muchos modelos y una gran fle­xi­bi­li­dad, a cambio de una capa in­te­r­me­dia adicional.
  • API directa del proveedor (por ejemplo, Anthropic): in­frae­s­tru­c­tu­ra más clara y mayor control sobre costes y pri­va­ci­dad, pero menos fle­xi­bi­li­dad.
  • Fu­n­cio­na­mie­n­to local: Ollama como la opción más sencilla para empezar, vLLM para se­r­vi­do­res con GPU y muchas so­li­ci­tu­des si­mu­l­tá­neas, LM Studio para pruebas con interfaz gráfica.
  • Modelos locales: Qwen3-Coder 30B-A3B para tareas de pro­gra­ma­ción y terminal, Llama 3.3 70B para flujos de trabajo con altas exi­ge­n­cias li­n­güí­s­ti­cas; este último tiene re­qui­si­tos de hardware cla­ra­me­n­te más elevados.

¿Qué re­qui­si­tos debe cumplir un LLM para Hermes Agent?

No todos los modelos de lenguaje son adecuados para trabajar con un agente autónomo. Mientras que un chatbot sencillo suele limitarse a procesar una pregunta y generar una respuesta, Hermes Agent puede ejecutar flujos de trabajo de varios pasos con ayuda de un LLM. El modelo puede pla­ni­fi­car una acción, utilizar una he­rra­mie­n­ta, procesar el resultado obtenido y decidir a partir de ahí cuál debe ser el siguiente paso.

Para que Hermes Agent funcione de forma fiable con un LLM en este tipo de tareas, hay dos ca­ra­c­te­rí­s­ti­cas es­pe­cia­l­me­n­te im­po­r­ta­n­tes:

  1. una ventana de contexto su­fi­cie­n­te­me­n­te amplia
  2. una co­m­pa­ti­bi­li­dad fiable con llamadas es­tru­c­tu­ra­das a he­rra­mie­n­tas (tool calling)
Hermes Agent VPS Hosting
Tu VPS para el Hermes Agent – potente, seguro y escalable
  • Listo para Hermes: acceso root, op­ti­mi­za­do para SSH, operativo en minutos
  • Rápido de forma constante: SSD NVMe y 1 Gbit/s, sin li­mi­ta­cio­nes
  • Seguro: in­te­gra­cio­nes API pe­r­so­na­li­za­das y co­m­pa­ti­bi­li­dad con Docker

Tamaño de la ventana de contexto

La ventana de contexto indica cuántos tokens puede tener en cuenta un modelo durante una tarea. Los tokens son pequeñas unidades de texto que, según el idioma y el contenido, pueden co­rre­s­po­n­der a una parte de una palabra, una palabra corta o incluso un signo de pu­n­tua­ción.

En Hermes, el contexto no incluye úni­ca­me­n­te la tarea inicial y las re­s­pue­s­tas an­te­rio­res. También ocupan espacio las in­s­tru­c­cio­nes del sistema, las de­s­cri­p­cio­nes de las he­rra­mie­n­tas di­s­po­ni­bles, las skills cargadas, la in­fo­r­ma­ción al­ma­ce­na­da, los re­su­l­ta­dos in­te­r­me­dios y las re­s­pue­s­tas de las he­rra­mie­n­tas. Por este motivo, Hermes Agent requiere un modelo con una ventana de contexto de al menos 64 000 tokens. Los modelos con ventanas más pequeñas se rechazan al iniciar Hermes porque no ofrecen su­fi­cie­n­te capacidad de contexto para ejecutar flujos de trabajo de varios pasos con he­rra­mie­n­tas.

En la práctica, conviene no trabajar justo en ese límite. Una ventana algo superior a 64 000 tokens pro­po­r­cio­na más margen, y los modelos con 128 000 tokens o más pueden resultar es­pe­cia­l­me­n­te útiles para tareas y co­n­ve­r­sa­cio­nes extensas. Hermes puede comprimir au­to­má­ti­ca­me­n­te el historial cuando el contexto aumenta, pero esta función no sustituye a una ventana de contexto su­fi­cie­n­te­me­n­te amplia. Su objetivo es mantener estables las sesiones largas, no compensar un modelo con un contexto de solo 8K o 32K.

Si el contexto di­s­po­ni­ble es demasiado pequeño, la in­fo­r­ma­ción más antigua puede dejar de estar di­s­po­ni­ble o tener que resumirse demasiado pronto. Como co­n­se­cue­n­cia, el modelo podría repetir un paso ya realizado, in­te­r­pre­tar de forma in­co­rre­c­ta el resultado de una he­rra­mie­n­ta o perder de vista el objetivo original de la tarea.

Llamadas a he­rra­mie­n­tas (tool calling)

Las llamadas a he­rra­mie­n­tas (tool calling) permiten que un LLM no se limite a generar texto, sino que pueda solicitar de forma es­tru­c­tu­ra­da la ejecución de una función o he­rra­mie­n­ta. Por ejemplo, el modelo puede de­te­r­mi­nar que necesita leer un archivo, ejecutar un comando en el terminal o realizar una búsqueda en Internet.

De forma si­m­pli­fi­ca­da, una llamada a una he­rra­mie­n­ta podría tener in­te­r­na­me­n­te este aspecto:

{
  "name": "web_search",
  "arguments": {
    "query": "documentación actual de Hermes Agent"
  }
}
json

Hermes ide­n­ti­fi­ca esta llamada es­tru­c­tu­ra­da, ejecuta la he­rra­mie­n­ta indicada y devuelve el resultado al modelo. A co­n­ti­nua­ción, el LLM evalúa la in­fo­r­ma­ción obtenida y decide si necesita realizar alguna otra acción.

Si el modelo genera la misma in­s­tru­c­ción úni­ca­me­n­te como texto, la he­rra­mie­n­ta no se ejecuta au­to­má­ti­ca­me­n­te. Por eso, la co­m­pa­ti­bi­li­dad nativa o co­rre­c­ta­me­n­te im­ple­me­n­ta­da con las llamadas a he­rra­mie­n­tas es mucho más fiable que limitarse a pedir al modelo que genere texto con un formato similar a JSON. Claude, por ejemplo, admite he­rra­mie­n­tas definidas mediante bloques es­tru­c­tu­ra­dos tool_use, mientras que los se­r­vi­do­res co­m­pa­ti­bles con OpenAI gestionan estas llamadas mediante elementos como tools, tool_choice y tool_calls.

Por tanto, una ventana de contexto amplia no es su­fi­cie­n­te por sí sola. Un modelo puede admitir 128 000 tokens y, aun así, no ser adecuado para Hermes si genera con fre­cue­n­cia nombres de funciones in­co­rre­c­tos, omite pa­rá­me­tros obli­ga­to­rios o mezcla las llamadas a he­rra­mie­n­tas con las re­s­pue­s­tas de texto.

Uso en la nube: Ope­n­Rou­ter o API directa del proveedor

Para utilizar Hermes Agent en la nube, existen dos opciones pri­n­ci­pa­les: co­ne­c­tar­lo a distintos modelos mediante un agregador como Ope­n­Rou­ter o utilizar di­re­c­ta­me­n­te la API de un proveedor como Anthropic.

Ope­n­Rou­ter: muchos modelos con una sola clave API

Ope­n­Rou­ter ofrece una API unificada que permite acceder a más de 400 modelos de distintos pro­vee­do­res. Los modelos co­m­pa­ti­bles pueden filtrarse, entre otros criterios, por longitud de contexto, precio, velocidad y capacidad de llamadas a he­rra­mie­n­tas (tool calling).

Su principal ventaja es la fle­xi­bi­li­dad. Con una sola clave API de Ope­n­Rou­ter puedes utilizar, por ejemplo, modelos de Claude, Qwen, Gemini, Llama o DeepSeek y cambiar entre ellos según tus ne­ce­si­da­des. De este modo, es posible recurrir a un modelo más potente para tareas complejas y a otro más económico para trabajos más sencillos.

Ope­n­Rou­ter también puede di­s­tri­buir las so­li­ci­tu­des entre distintos pro­vee­do­res que ofrecen un mismo modelo. Puedes or­de­nar­los según el precio, el re­n­di­mie­n­to o la latencia, dar pre­fe­re­n­cia a de­te­r­mi­na­dos pro­vee­do­res, excluir otros y limitar las so­li­ci­tu­des a endpoints con Zero Data Retention (retención cero de datos).

Una co­n­fi­gu­ra­ción sencilla de Hermes puede tener este aspecto:

model:
  provider: openrouter
  default: anthropic/claude-sonnet-5

provider_routing:
  sort: latency
  require_parameters: true
  data_collection: deny
yaml

La opción require_parameters: true resulta es­pe­cia­l­me­n­te útil para agentes. Hace que Ope­n­Rou­ter utilice úni­ca­me­n­te pro­vee­do­res co­m­pa­ti­bles con todos los pa­rá­me­tros ne­ce­sa­rios para la solicitud, entre ellos, por ejemplo, los re­la­cio­na­dos con las llamadas a he­rra­mie­n­tas o las salidas es­tru­c­tu­ra­das.

La clave API no se guarda di­re­c­ta­me­n­te en este archivo, sino en ~/.hermes/.env:

OPENROUTER_API_KEY=TU_CLAVE_API_DE_OPENROUTER
bash
Nota

Hermes separa las cre­de­n­cia­les secretas de los ajustes generales. Las claves API se almacenan en el archivo .env, mientras que el modelo, el proveedor, el endpoint y las reglas de routing se co­n­fi­gu­ran en config.yaml.

La principal de­s­ve­n­ta­ja de Ope­n­Rou­ter es que añade una capa in­te­r­me­dia entre Hermes y el proveedor del modelo. La latencia y el co­m­po­r­ta­mie­n­to pueden variar en función del backend se­le­c­cio­na­do. Además, si trabajas con datos sensibles, debes tener en cuenta que tanto Ope­n­Rou­ter como el proveedor que fi­na­l­me­n­te procesa la solicitud pueden formar parte de la cadena de tra­ta­mie­n­to de los datos.

API directas: conectar Hermes con el proveedor del modelo

En lugar de utilizar un agregador como Ope­n­Rou­ter, también puedes conectar Hermes di­re­c­ta­me­n­te con la API de un proveedor de modelos. Entre las opciones co­m­pa­ti­bles se en­cue­n­tran, por ejemplo, Anthropic, OpenAI y Google. En este caso, Hermes envía las so­li­ci­tu­des di­re­c­ta­me­n­te al proveedor elegido. Para ello, necesitas una cuenta con ese proveedor, las cre­de­n­cia­les co­rre­s­po­n­die­n­tes y, cuando proceda, un sistema de fa­c­tu­ra­ción co­n­fi­gu­ra­do.

La co­n­fi­gu­ra­ción del modelo se realiza también en config.yaml. El nombre del proveedor y el ide­n­ti­fi­ca­dor del modelo dependen del servicio elegido. Una co­n­fi­gu­ra­ción si­m­pli­fi­ca­da con Anthropic podría tener este aspecto:

model:
  provider: anthropic
  default: claude-sonnet-5
yaml

La clave API co­rre­s­po­n­die­n­te tampoco debería al­ma­ce­nar­se di­re­c­ta­me­n­te en el archivo de co­n­fi­gu­ra­ción.

Nota

Si utilizas un proveedor distinto de Anthropic, debes adaptar tanto el nombre del proveedor y el ide­n­ti­fi­ca­dor del modelo como la variable de entorno co­rre­s­po­n­die­n­te.

La principal ventaja de utilizar di­re­c­ta­me­n­te la API del proveedor es disponer de una in­frae­s­tru­c­tu­ra más sencilla de ide­n­ti­fi­car. Sabes qué empresa procesa las so­li­ci­tu­des, qué precios se aplican y qué co­n­di­cio­nes de pri­va­ci­dad y co­n­se­r­va­ción de datos debes tener en cuenta. Al no existir una capa adicional de routing, la conexión directa también puede ofrecer tiempos de respuesta más uniformes, aunque no será ne­ce­sa­ria­me­n­te más rápida en todas las so­li­ci­tu­des. La latencia real depende del modelo utilizado, la longitud del contexto, la carga del proveedor y la ubicación de sus se­r­vi­do­res.

A cambio, una conexión directa ofrece menos fle­xi­bi­li­dad. Si quieres utilizar un modelo de otro proveedor, no­r­ma­l­me­n­te ne­ce­si­ta­rás otra cuenta, nuevas cre­de­n­cia­les y adaptar la co­n­fi­gu­ra­ción de Hermes. Los cambios au­to­má­ti­cos entre pro­vee­do­res también deben co­n­fi­gu­rar­se mediante las reglas de fallback co­rre­s­po­n­die­n­tes.

Por tanto, una API directa resulta es­pe­cia­l­me­n­te adecuada para entornos de pro­du­c­ción en los que ya se ha elegido un modelo concreto y se quiere tener un mayor control sobre los costes, la pri­va­ci­dad, el soporte y el co­m­po­r­ta­mie­n­to técnico. Ope­n­Rou­ter, en cambio, resulta más práctico para comparar modelos, cambiar con fre­cue­n­cia entre ellos o gestionar varios pro­vee­do­res desde una única interfaz.

Fu­n­cio­na­mie­n­to local con Ollama, vLLM y LM Studio

Al ejecutar Hermes Agent con un LLM en local, el pro­ce­sa­mie­n­to del modelo se realiza en tu propio hardware o en un servidor que tú ad­mi­ni­s­tras. De este modo, los prompts y las re­s­pue­s­tas del modelo no tienen que enviarse a un proveedor externo de LLM. Esta opción puede resultar es­pe­cia­l­me­n­te in­te­re­sa­n­te si trabajas con do­cu­me­n­tos internos, código fuente, datos de clientes o apli­ca­cio­nes que deben funcionar sin conexión.

Nota

Ejecutar el modelo en local no implica au­to­má­ti­ca­me­n­te cumplir con el RGPD. También deben tenerse en cuenta, entre otros aspectos, la base jurídica del tra­ta­mie­n­to, los permisos de acceso, el registro de actividad, los plazos de co­n­se­r­va­ción y las medidas de seguridad aplicadas. El RGPD exige medidas técnicas y or­ga­ni­za­ti­vas adecuadas para proteger todo el tra­ta­mie­n­to de los datos. Además, si Hermes utiliza servicios externos, como una he­rra­mie­n­ta de búsqueda en Internet, de­te­r­mi­na­dos datos pueden salir del sistema local.

Ollama: una opción sencilla para empezar con modelos locales

Ollama es es­pe­cia­l­me­n­te adecuado para pri­n­ci­pia­n­tes. La apli­ca­ción descarga los modelos, los ejecuta en local y pone a di­s­po­si­ción un endpoint co­m­pa­ti­ble con OpenAI. Hermes puede co­ne­c­tar­se a este endpoint a través de http://localhost:11434/v1.

Puedes descargar un modelo adecuado, por ejemplo, con:

ollama pull qwen3-coder:30b
bash

A co­n­ti­nua­ción, inicia Ollama con una ventana de contexto su­fi­cie­n­te­me­n­te amplia:

OLLAMA_CONTEXT_LENGTH=65536 ollama serve
bash

En la co­n­fi­gu­ra­ción de Hermes, indica el endpoint local:

model:
  provider: custom
  default: qwen3-coder:30b
  base_url: http://localhost:11434/v1
  context_length: 65536
yaml

El valor definido en la co­n­fi­gu­ra­ción de Hermes indica al agente con qué ventana de contexto puede trabajar, pero no aumenta au­to­má­ti­ca­me­n­te el contexto di­s­po­ni­ble en Ollama. Por eso, también debes co­n­fi­gu­rar­lo en el servidor mediante OLLAMA_CONTEXT_LENGTH o un Modelfile de Ollama. La longitud de contexto no puede au­me­n­tar­se po­s­te­rio­r­me­n­te desde el endpoint de chat co­m­pa­ti­ble con OpenAI.

Para comprobar qué ventana de contexto está uti­li­za­n­do realmente el modelo, ejecuta:

ollama ps
bash

Ollama admite llamadas a he­rra­mie­n­tas a través de su API co­m­pa­ti­ble con OpenAI. Sin embargo, el modelo se­le­c­cio­na­do debe disponer por sí mismo de un formato adecuado de llamadas a he­rra­mie­n­tas. Los modelos de las familias Qwen3, Llama 3.x, Mistral y Hermes forman parte de este grupo.

vLLM: self-hosting de alto re­n­di­mie­n­to para se­r­vi­do­res con GPU

vLLM está dirigido pri­n­ci­pa­l­me­n­te a usuarios pro­fe­sio­na­les o con ex­pe­rie­n­cia técnica. El software también ofrece una API co­m­pa­ti­ble con OpenAI, pero está diseñado para ofrecer un alto re­n­di­mie­n­to, gestionar so­li­ci­tu­des en paralelo y apro­ve­char de forma eficiente los se­r­vi­do­res con GPU.

Por ejemplo, un modelo Qwen puede iniciarse de la siguiente manera:

vllm serve Qwen/Qwen3-Coder-Next \
  --port 8000 \
  --tensor-parallel-size 2 \
  --max-model-len 65536 \
  --enable-auto-tool-choice \
  --tool-call-parser qwen3_coder
bash

Los pa­rá­me­tros cumplen distintas funciones:

  • --max-model-len 65536 reserva una ventana de contexto superior al mínimo requerido por Hermes.
  • --enable-auto-tool-choice permite que el modelo decida por sí mismo si necesita utilizar una he­rra­mie­n­ta.
  • --tool-call-parser qwen3_coder convierte las llamadas a he­rra­mie­n­tas es­pe­cí­fi­cas del modelo en llamadas es­tru­c­tu­ra­das a la API.

Para Llama 3.3, vLLM utiliza el parser de he­rra­mie­n­tas llama3_json. Además, conviene es­pe­ci­fi­car una plantilla de chat JSON adecuada. Esta plantilla determina cómo transmite Hermes al modelo las he­rra­mie­n­tas di­s­po­ni­bles, los pa­rá­me­tros ne­ce­sa­rios y las llamadas a he­rra­mie­n­tas ya eje­cu­ta­das.

¿Por qué los contextos largos necesitan tanta VRAM?

Al ejecutar un modelo lo­ca­l­me­n­te, en la memoria gráfica no solo deben caber los pesos del modelo. El servidor también necesita memoria adicional para el de­no­mi­na­do KV cache, donde se almacena in­fo­r­ma­ción de los tokens ya pro­ce­sa­dos para uti­li­zar­la en los cálculos po­s­te­rio­res. Cuanto mayor sea la ventana de contexto, mayor será también este consumo adicional de memoria.

Los modelos cua­n­ti­za­dos reducen pri­n­ci­pa­l­me­n­te la memoria necesaria para almacenar los pesos del modelo. Sin embargo, esto no resuelve au­to­má­ti­ca­me­n­te todo el problema re­la­cio­na­do con el contexto. Por ello, en equipos con recursos limitados puede ser más co­n­ve­nie­n­te utilizar un modelo más pequeño con llamadas a he­rra­mie­n­tas fiables y un contexto real de 64K que un modelo más grande cuyo contexto tenga que de­s­ca­r­gar­se pa­r­cia­l­me­n­te en la CPU.

LM Studio: modelos locales mediante una interfaz gráfica

LM Studio ofrece una interfaz gráfica para Windows, macOS y Linux. Permite buscar, descargar y co­n­fi­gu­rar modelos y, po­s­te­rio­r­me­n­te, ponerlos a di­s­po­si­ción mediante un servidor API local. El endpoint co­m­pa­ti­ble con OpenAI se ejecuta de forma pre­de­te­r­mi­na­da en http://localhost:1234/v1.

El servidor puede iniciarse desde la sección Developer de la apli­ca­ción o mediante la línea de comandos:

lms server start
lms ls
lms load <ID_DEL_MODELO_QWEN3_CODER> --context-length 65536
bash

Hermes incluye una opción es­pe­cí­fi­ca para LM Studio en el asistente de selección de modelos. Si el modelo ya está cargado, Hermes conserva la longitud de contexto co­n­fi­gu­ra­da en LM Studio; si no lo está, LM Studio aplica su propia co­n­fi­gu­ra­ción salvo que se haya definido ex­plí­ci­ta­me­n­te context_length en Hermes. Desde la interfaz también puedes comprobar y ajustar la longitud del contexto en la co­n­fi­gu­ra­ción del modelo. LM Studio admite llamadas a he­rra­mie­n­tas y funciones a través de sus endpoints co­m­pa­ti­bles con OpenAI. Los modelos que admiten llamadas a he­rra­mie­n­tas de forma nativa suelen ofrecer re­su­l­ta­dos más fiables que aquellos que requieren utilizar un formato al­te­r­na­ti­vo genérico. Para las primeras pruebas en local, LM Studio resulta es­pe­cia­l­me­n­te cómodo. Sin embargo, para un servidor headless que deba funcionar de forma pe­r­ma­ne­n­te y gestionar muchas so­li­ci­tu­des en paralelo, vLLM suele ser una in­frae­s­tru­c­tu­ra más adecuada.

Servidor virtual / VPS
IONOS VPS a un precio in­me­jo­ra­ble: ahora aún mejor
  • NUEVO: Escala de forma flexible con VM-Cloning, Load Balancing, nuevas opciones de al­ma­ce­na­mie­n­to y más.
  • Tráfico ilimitado, > 99,99 % de di­s­po­ni­bi­li­dad
  • Atención 24/7 con asesor personal

¿Qué modelos locales son adecuados para Hermes Agent?

Hermes Agent es co­m­pa­ti­ble con distintos LLM. La elección debe adaptarse a cada caso de uso concreto.

Qwen3-Coder

Qwen3-Coder es la familia de modelos de Qwen es­pe­cia­li­za­da en pro­gra­ma­ción y tareas de software basadas en agentes. Admite de forma nativa una ventana de contexto de 262 144 tokens. Con se­r­vi­do­res adecuados y su­fi­cie­n­te memoria, Qwen3-Coder puede ampliarse mediante YaRN hasta un millón de tokens. Para in­s­ta­la­cio­nes locales de Hermes, resulta es­pe­cia­l­me­n­te in­te­re­sa­n­te Qwen3-Coder 30B-A3B-Instruct. El modelo cuenta con un total de 30 500 millones de pa­rá­me­tros, de los cuales se activan 3300 millones en cada pro­ce­sa­mie­n­to. De este modo, combina un tamaño de modelo re­la­ti­va­me­n­te manejable con buenas ca­pa­ci­da­des de ge­ne­ra­ción de código, llamadas a he­rra­mie­n­tas y flujos de trabajo basados en agentes.

Llama 3.3 70B

Llama 3.3 70B Instruct es una al­te­r­na­ti­va más reciente y potente que Llama 3.1 70B. El modelo admite un contexto de 128 000 tokens y dispone de un formato es­pe­cí­fi­co para realizar llamadas es­tru­c­tu­ra­das a he­rra­mie­n­tas. Por tanto, cumple en principio los re­qui­si­tos de Hermes Agent, siempre que el servidor de modelos local pro­po­r­cio­ne realmente al menos 64 000 tokens y utilice la plantilla de llamadas a he­rra­mie­n­tas adecuada. En Hermes, Llama 3.3 resulta es­pe­cia­l­me­n­te apropiado para el pro­ce­sa­mie­n­to general de textos, tareas mu­l­ti­li­n­gües, in­ve­s­ti­ga­ción y flujos de trabajo que, además de llamadas a he­rra­mie­n­tas, requieran buenas ca­pa­ci­da­des li­n­güí­s­ti­cas. Sin embargo, sus 70 000 millones de pa­rá­me­tros hacen que siga ne­ce­si­ta­n­do una gran cantidad de recursos de hardware.

Co­m­pa­ra­ti­va de LLM para Hermes Agent

Proveedor/modelo Ubicación de los datos Longitud mínima de contexto Es­ta­bi­li­dad de las llamadas a he­rra­mie­n­tas Costes
Anthropic di­re­c­ta­me­n­te / Claude Sonnet 5 o 4.6 Cloud de Anthropic Hermes: 64 000; modelo: hasta 1 millón Muy alta; he­rra­mie­n­tas es­tru­c­tu­ra­das nativas Altos, costes por tokens según el uso
Ope­n­Rou­ter / Claude Sonnet u otro modelo co­m­pa­ti­ble con he­rra­mie­n­tas Cloud mediante un agregador Al menos 64 000; depende del modelo Alta o muy alta; también depende del proveedor que ejecute el modelo Variables, de bajos a altos
Ollama o LM Studio / Qwen3-Coder 30B-A3B Equipo o servidor propio Hermes: mínimo 64 000; modelo: 262 144 de forma nativa Alta; op­ti­mi­za­do para llamadas a he­rra­mie­n­tas y flujos de trabajo de pro­gra­ma­ción basados en agentes Sin costes de API; costes de hardware medios o altos
vLLM o LM Studio / Llama 3.3 70B Servidor propio de alto re­n­di­mie­n­to Hermes: mínimo 64 000; modelo: 128K de forma nativa Alta con una plantilla de chat y un pro­ce­sa­mie­n­to de llamadas a he­rra­mie­n­tas adecuados; en vLLM, utiliza llama3_json. Elevadas ne­ce­si­da­des de RAM y VRAM

La va­lo­ra­ción de la es­ta­bi­li­dad de las llamadas a he­rra­mie­n­tas no supone ninguna garantía. Para alcanzar estos niveles, el modelo, la longitud del contexto, la plantilla de chat, el parser de he­rra­mie­n­tas y los pa­rá­me­tros del servidor deben funcionar co­rre­c­ta­me­n­te en conjunto.

Re­co­me­n­da­cio­nes concretas según el caso de uso

  • Para pri­n­ci­pia­n­tes: Ope­n­Rou­ter es la opción más sencilla para empezar en la nube. Solo necesitas una clave API y puedes probar distintos modelos.
  • Para au­to­ma­ti­za­cio­nes web complejas en la nube: una conexión directa con Anthropic mediante un modelo Claude Sonnet actual es una solución es­pe­cia­l­me­n­te fiable. Ofrece una ventana de contexto muy amplia y llamadas a he­rra­mie­n­tas estables.
  • Para sistemas pro­du­c­ti­vos en la nube con alta di­s­po­ni­bi­li­dad: utiliza la API directa de un proveedor como opción principal y configura Ope­n­Rou­ter como fallback.
  • Para cron jobs locales y scripts re­cu­rre­n­tes: Ollama con un modelo Qwen o Llama adecuado ofrece una forma sencilla de empezar. Sus pri­n­ci­pa­les ventajas son el pro­ce­sa­mie­n­to local de los datos y la ausencia de costes por tokens.
  • Para tareas de pro­gra­ma­ción y terminal: Qwen3-Coder 30B-A3B es una opción local es­pe­cia­l­me­n­te adecuada. El modelo ofrece una ventana de contexto nativa de 256K, llamadas a he­rra­mie­n­tas fiables y una ar­qui­te­c­tu­ra MoE re­la­ti­va­me­n­te eficiente.
  • Para un servidor local mu­l­tiu­sua­rio o de pro­du­c­ción: vLLM es la solución de self-hosting más potente de las ana­li­za­das aquí. Ofrece un alto re­n­di­mie­n­to y un buen apro­ve­cha­mie­n­to de la GPU, aunque requiere muchos más co­no­ci­mie­n­tos técnicos.
  • Para realizar pruebas locales mediante una interfaz gráfica: LM Studio es una buena opción si deseas descargar y co­n­fi­gu­rar modelos sin necesidad de tener amplios co­no­ci­mie­n­tos de línea de comandos.
  • Para equipos con recursos muy limitados: Llama 3.2 con 1B o 3B pa­rá­me­tros puede servir para tareas sencillas. Sin embargo, para búsquedas web autónomas, ediciones exhau­s­ti­vas de archivos o bucles de apre­n­di­za­je pro­lo­n­ga­dos, es re­co­me­n­da­ble utilizar un modelo de mayor tamaño.

Co­n­clu­sión: ¿qué LLM es la mejor opción para Hermes Agent?

La co­n­fi­gu­ra­ción más adecuada depende de si se priorizan la facilidad de uso, la pro­te­c­ción de datos, los costes, la velocidad o la máxima fia­bi­li­dad. In­de­pe­n­die­n­te­me­n­te del proveedor, el modelo debería ofrecer al menos 64 000 tokens de contexto real, llamadas es­tru­c­tu­ra­das a he­rra­mie­n­tas y su­fi­cie­n­te capacidad de ra­zo­na­mie­n­to para tomar de­ci­sio­nes en varios pasos.

Para empezar de forma sencilla en la nube, Ope­n­Rou­ter destaca por su fle­xi­bi­li­dad. En au­to­ma­ti­za­cio­nes pro­du­c­ti­vas más exigentes, una conexión directa con Claude ofrece un alto nivel de es­ta­bi­li­dad en las llamadas a he­rra­mie­n­tas y una ventana de contexto muy amplia. Para ex­pe­ri­me­n­tos locales y cron jobs sencillos, Ollama es la opción más accesible, mientras que vLLM muestra sus pri­n­ci­pa­les ventajas en se­r­vi­do­res con GPU de alto re­n­di­mie­n­to y entornos con muchas so­li­ci­tu­des si­mu­l­tá­neas.

Ir al menú principal