$ capsul 用語集
用語集
コーディングエージェントのコストを決める言葉を、まず一文で定義し、そのうえで説明します。
- トークン
- トークンとは、言語モデルが読み取り、課金の単位とするもののことです。よく使われる単語、単語の断片、あるいは句読点にあたり、英語では平均しておおよそ 3 から 4 文字分です。
- コンテキストウィンドウ
- コンテキストウィンドウとは、モデルが一度に考慮できるトークンの最大数のことで、指示、会話、そして質問と一緒に送られるすべてを含みます。
- 入力トークンと出力トークン
- 入力トークンはリクエストでモデルに送られるすべて、出力トークンはモデルが書き返すものです。エージェントの作業では、入力側が請求を 1 桁以上の差で支配します。
- トークン予算
- トークン予算とは、1 回のリクエストに入れてよいコンテキスト量の強制的な上限で、モデルと交渉するのではなく、送る前に適用されるものです。
- プロンプトキャッシュ
- プロンプトキャッシュは、繰り返される前置き部分の処理済みの形をリクエストをまたいで再利用させ、その分のトークンを新規料金の何分の一かで課金する仕組みです。
- キャッシュヒット率
- キャッシュヒット率とは、1 回のリクエストの入力トークンのうち、新規に処理されるのではなくプロンプトキャッシュから供給された割合のことです。
- コンテキストの劣化
- コンテキストの劣化とは、コンテキストが膨らむにつれてモデルの回答が悪くなっていくことです。関連する材料の希釈、新旧の食い違い、積み上がった行き止まりによって起こります。
- エージェントループ
- エージェントループとは、モデルがツールを呼び、結果を読み、次に何をするかを決める、という循環を回答が出るまで繰り返すことです。
- ツール呼び出し
- ツール呼び出しとは、ファイルを読む、コマンドを走らせるなど、モデルが自分の外側で何かを実行させるための構造化された要求で、その結果はコンテキストに戻されます。
- リポジトリマップ
- リポジトリマップとは、コードベースを圧縮した見取り図で、ファイルとそこで定義された記号を並べ、モデルがすべてを読まずに目的の場所を特定できるようにするものです。
- 利用上限
- 利用上限とは、一定の時間枠内に送れる量の上限で、送ったメッセージの数ではなく処理されたトークンで計られます。
- コマンドライン型コーディングエージェント
- コマンドライン型コーディングエージェントとは、あなたが定めた承認ルールのもとで、モデルに作業ディレクトリ内の読み取り、実行、編集を行わせるコマンドラインのプログラムです。