利用上限

利用上限とは、一定の時間枠内に送れる量の上限で、送ったメッセージの数ではなく処理されたトークンで計られます。

サブスクリプションのプランはたいてい、セッション上限と、より長い移動窓の上限の両方を課します。どちらもモデルで重み付けした利用量で計られます。同じ数のプロンプトを送った 2 人が、まったく違う位置に立ちうるのはこのためです。

上限は、静かな週の終わりよりも作業の途中で来がちです。高くつくターンは長いセッションの中盤にあるからです。20 ターン目は 19 ターンぶんの履歴に、途中で読んだすべてを加えて抱えています。

上限を早くリセットするものはなく、引き上げるオプションもありません。変えられるのは枠を消費していく速さで、それは各ターンが何を抱えているかで決まります。

用語一覧