Context Window
La quantità massima di informazioni (token) che un modello AI può "tenere a mente" durante un'unica conversazione.
La Memoria di Lavoro dell'AI: Context Window
La Finestra di Contesto (Context Window) determina quanto testo il modello può analizzare prima di iniziare a "dimenticare" i pezzi precedenti. È simile alla memoria a breve termine umana: se superi questo limite, l'AI perde il filo del discorso.
Perché Grandezze Maggiori sono Importanti
Modelli con una finestra ampia possono leggere interi codici sorgente, libri di centinaia di pagine o consultare diverse ore di registrazioni audio senza aver bisogno di tecniche esterne di sintesi.
Costi e Performance
Tuttavia, finestre di contesto più grandi richiedono molta più memoria RAM e potenza di calcolo, rendendo le query più costose e potenzialmente meno precise se il modello non è bene ottimizzato (problema "Lost in the Middle").