ツール呼び出し

ツールは、モデルに答えるだけでなく行動させるためのものです。その代償として、どのツールも使う前にリクエストの中でモデルへ説明されていなければなりません。登録済みでも現在の作業が一度も触れないツールが、毎ターン入力トークンを占めます。

結果は定義よりも高くつきます。2000 行を出力するコマンドは 2000 行分のコンテキストを持ち込み、そのセッションの残りのあいだ持ち込み続けます。

したがって、出力がモデルに届く前に絞り込むことは、単純でありながら効き目の大きい数少ない介入の 1 つです。head、grep、--quiet オプション、JSON フィルタ。どれも、ノイズを無視してくれとモデルに頼むより安上がりです。