Cos'è la finestra di contesto?

È quanto testo il modello può tenere sotto gli occhi in una volta sola: la richiesta, il filo della chat, e gli eventuali documenti che gli passi. Non è «memoria a vita». Quando la finestra è piena, i pezzi più vecchi escono. Per questo una chat lunga dimentica l'inizio, e un PDF enorme non entra tutto.

Si misura in token, non in pagine. Un modello con una finestra più ampia può leggere di più in un colpo; non per questo ragiona meglio, e non costa meno.

Cosa implica

Se i documenti superano la finestra, serve spezzarli e scegliere — di nuovo: RAG — non incollare tutto. Una finestra grande è comoda; non è una scusa per non rileggere.

Nel corso la finestra compare quando si parla di token e di generazione: quanto entra, cosa esce, perché «se lo ricorda» vale solo per quello che è ancora nel contesto.

Poi, se vuoi la mappa intera. Inizia dalla puntata gratis. Il Corso AI in 10 puntate costa 9,90 € una tantum, e resta tuo. Home: corso-intelligenza-artificiale.com.