Parameters
Variabili interne di un modello AI che vengono regolate durante l'addestramento per memorizzare la conoscenza.
I Miliardi di Collegamenti: Cosa sono i Parametri
In un modello AI, i Parameters (Parametri) sono l'equivalente digitale delle sinapsi umane. Quando senti dire che un modello ha "70 miliardi di parametri", significa che ha 70 miliardi di numeri che regolano il modo in cui le informazioni fluiscono al suo interno.
Più Grande è Meglio?
Generalmente, più parametri ha un modello, più è "intelligente" e capace di gestire sfumature complesse. Tuttavia, modelli con troppi parametri sono lentissimi e pesanti. La sfida attuale è ottenere le stesse prestazioni con meno parametri (efficienza).
L'impatto sul Hardware
Il numero di parametri determina quanta memoria RAM (o VRAM) serve per far girare l'AI. Per questo, modelli "piccoli" da 7B o 8B sono così popolari: possono girare tranquillamente sui computer di casa.