Glossario
Finestra di contesto
La finestra di contesto è quanto testo un'AI riesce a tenere a mente in una volta: i tuoi messaggi, le sue risposte e i documenti incollati, misurati in token. Quando la chat la supera, l'AI inizia a dimenticare le parti più vecchie.
La finestra di contesto è la scrivania di lavoro dell’AI. Tutto ciò che sta nella conversazione corrente, le tue domande, le sue risposte, il PDF che hai incollato, deve starci sopra, misurato in token. Quando la scrivania è piena, i fogli più vecchi scivolano giù dal bordo, in silenzio.
Ecco perché una chat lunga può diventare strana: lunedì le hai detto che il tuo B&B ha sei camere, e al messaggio ottanta ti inventa una piscina. Non ha mentito per cattiveria: quel dettaglio è semplicemente caduto dalla scrivania.
Tre abitudini sistemano quasi tutto. Apri una chat nuova per ogni argomento. Quando una conversazione si allunga, re-incolla i fatti chiave. E per i documenti grossi, controlla prima la dimensione della finestra del modello: i modelli moderni reggono centinaia di pagine, ma non infinite.
Dove lo incontrerai
Le pagine di confronto dei modelli se ne vantano (“contesto da 200K”, “1M di token”), e tu la senti come avvisi “conversazione troppo lunga” o risposte che ignorano le istruzioni date all’inizio. La dimensione varia molto tra modelli e piani, ed è una delle cose che il nostro quiz quale AI pesa quando ti abbina un assistente.