Agentenschleife

Eine Agentenschleife ist der Zyklus, in dem ein Modell ein Werkzeug aufruft, das Ergebnis liest und über den nächsten Schritt entscheidet, wiederholt bis eine Antwort steht.

Diese Schleife trennt einen Agenten von einem Chat. Sie macht Agentensitzungen auch auf eine Weise teuer, wie Chats es nicht sind: jedes Werkzeugergebnis tritt dauerhaft in den Kontext ein, und der gesamte angesammelte Kontext wird in der nächsten Iteration erneut gesendet.

Eine Schleife mit sechs Iterationen kostet deshalb nicht das Sechsfache einer Iteration. Sie kostet eher die Summe einer wachsenden Reihe, weil Iteration sechs alles trägt, was die Iterationen eins bis fünf hervorgebracht haben.

Dieses Wachstum ist der Grund, warum Erkundung der dominierende Kostenfaktor der Agentenarbeit ist. Eine Datei zu finden braucht Iterationen; gesagt zu bekommen, welche es ist, braucht keine.

Alle Begriffe