La fenêtre de contexte est la quantité maximale de texte — mesurée en jetons — qu'un modèle de langage peut traiter en une seule interaction, incluant à la fois l'entrée et la sortie générée.
Tout ce que le modèle peut « voir » à la fois est limité à sa fenêtre de contexte. Si une conversation ou un document dépasse cette limite, le contenu antérieur sort de la fenêtre et le modèle ne peut plus y faire référence.