Werkzeugaufruf
Ein Werkzeugaufruf ist eine strukturierte Anfrage eines Modells, etwas außerhalb seiner selbst auszuführen, etwa eine Datei zu lesen oder einen Befehl zu starten, dessen Ergebnis zurück in den Kontext fließt.
Werkzeuge sind das, was ein Modell handeln statt nur antworten lässt. Der Preis ist, dass jedes Werkzeug dem Modell in der Anfrage beschrieben werden muss, bevor es benutzt werden kann. Ein registriertes Werkzeug, das die aktuelle Aufgabe nie berührt, belegt trotzdem in jeder Runde Eingabetokens.
Die Ergebnisse kosten mehr als die Definitionen. Ein Befehl, der zweitausend Zeilen ausgibt, steuert zweitausend Zeilen Kontext bei und tut das für den Rest der Sitzung weiter.
Ausgaben zu filtern, bevor sie das Modell erreichen, ist deshalb einer der wenigen Eingriffe, die zugleich einfach und viel wert sind. head, grep, ein --quiet-Schalter oder ein JSON-Filter kosten alle weniger, als das Modell zu bitten, das Rauschen zu ignorieren.