Llamada a herramienta
Una llamada a herramienta es una petición estructurada de un modelo para ejecutar algo fuera de sí mismo, como leer un archivo o correr un comando, cuyo resultado vuelve al contexto.
Las herramientas son lo que permite a un modelo actuar y no solo responder. El coste es que cada herramienta tiene que describírsele al modelo, dentro de la petición, antes de poder usarse. Una herramienta registrada que la tarea actual nunca toca sigue ocupando tokens de entrada en cada turno.
Los resultados cuestan más que las definiciones. Un comando que imprime dos mil líneas aporta dos mil líneas de contexto, y sigue aportándolas el resto de la sesión.
Filtrar la salida antes de que llegue al modelo es, por tanto, una de las pocas intervenciones a la vez simples y muy rentables. head, grep, una opción --quiet o un filtro JSON cuestan todos menos que pedirle al modelo que ignore el ruido.