Dégradation du contexte

La dégradation du contexte est la baisse de qualité des réponses d'un modèle à mesure que son contexte grandit, par dilution de la matière pertinente, contradictions entre l'ancien et le neuf, et accumulation d'impasses.

C'est la raison pour laquelle une longue session devient moins bonne plutôt que mieux informée. Tout ce qui a été un jour dans la fenêtre y est encore : l'approche abandonnée, l'erreur corrigée, le fichier qui a changé depuis.

La dilution en est la part mesurable. La justesse de récupération d'un fait précis dans un long contexte baisse quand la matière sans rapport augmente, et ce qui est placé au milieu d'une longue fenêtre est retrouvé le moins fiablement.

La parade pratique n'a rien de glorieux et fonctionne : terminer la session quand la tâche se termine. Rien d'autre ne restaure une fenêtre aussi complètement que d'en ouvrir une neuve.

Tous les termes