Hallucination
Fenomeno in cui un modello AI genera informazioni false, imprecise o del tutto inventate presentandole con estrema sicurezza.
Quando l'AI Inventa: Il Problema delle Allucinazioni
Le Allucinazioni sono il tallone d'Achille dei modelli linguistici (LLM). Avvengono perché l'AI è un "pappagallo stocastico": non sa cosa sia vero, sa solo quale parola è matematicamente probabile dopo quella precedente. Se i dati sono ambigui, il modello colmerà i vuoti con la fantasia.
Esempi Pericolosi
Un'AI potrebbe inventare citazioni legali inesistenti, creare date storiche errate o fornire istruzioni mediche basate su fatti mescolati. La sfida è che le risposte sembrano così ben scritte e sicure da trarre in inganno anche gli esperti.
Strategie di Controllo
Per combattere le allucinazioni si usano il **Grounding**, l'uso di **Prompt specifici** ("rispondi solo se trovi la fonte") e sistemi di verifica incrociata tra diversi modelli AI.