上下文腐化
上下文腐化是指模型的回答随着上下文膨胀而变差：相关材料被稀释、新旧内容互相矛盾、废弃的死路不断堆积。
这就是长会话为何越来越糟、而不是信息越来越充分的原因。凡是曾经进入窗口的东西都还在窗口里：被放弃的方案、已经修好的错误、此后早已改动的文件。
稀释是其中可测量的部分。从长上下文中取回某个具体事实的准确率，会随着无关材料的增加而下降，而放在长窗口中段的材料被找回的可靠性最低。
实用的对策毫不起眼却有效：任务结束时结束会话。没有什么能像开一个新窗口那样彻底地恢复窗口。
上下文腐化是指模型的回答随着上下文膨胀而变差：相关材料被稀释、新旧内容互相矛盾、废弃的死路不断堆积。
这就是长会话为何越来越糟、而不是信息越来越充分的原因。凡是曾经进入窗口的东西都还在窗口里：被放弃的方案、已经修好的错误、此后早已改动的文件。
稀释是其中可测量的部分。从长上下文中取回某个具体事实的准确率，会随着无关材料的增加而下降，而放在长窗口中段的材料被找回的可靠性最低。
实用的对策毫不起眼却有效：任务结束时结束会话。没有什么能像开一个新窗口那样彻底地恢复窗口。