用量上限
用量上限限制你在一段时间窗口内能发送多少,其计量基于已处理的 token,而不是发出的消息条数。
订阅套餐通常同时设有会话上限和一个更长的滚动上限,两者都按模型加权后的用量计量。因此发出同样多提示的两个人,处境可能相差很远。
上限往往在任务中途出现,而不是在清闲一周的末尾,因为昂贵的是长会话中段的那些轮次。第二十轮背着十九轮历史,外加一路读过的一切。
没有什么能让上限提前重置,也没有选项能把它调高。会变的是窗口被消耗的速率,而这取决于每一轮携带了什么。
用量上限限制你在一段时间窗口内能发送多少,其计量基于已处理的 token,而不是发出的消息条数。
订阅套餐通常同时设有会话上限和一个更长的滚动上限,两者都按模型加权后的用量计量。因此发出同样多提示的两个人,处境可能相差很远。
上限往往在任务中途出现,而不是在清闲一周的末尾,因为昂贵的是长会话中段的那些轮次。第二十轮背着十九轮历史,外加一路读过的一切。
没有什么能让上限提前重置,也没有选项能把它调高。会变的是窗口被消耗的速率,而这取决于每一轮携带了什么。