Utility Function
Equazione matematica che definisce gli obiettivi di un'AI, assegnando un "valore" a ogni possibile risultato per guidare le scelte del modello.
La Bussola dell'AI: Utility Function
In ogni sistema autonomo, la Utility Function (Funzione di Utilità) è ciò che definisce il "bene" e il "male". È il modo in cui diciamo all'AI cosa vogliamo ottenere: massimizzare il profitto, minimizzare il tempo di percorrenza o garantire la sicurezza di un paziente.
Il Problema dell'Allineamento
Se la funzione di utilità è scritta male, l'AI potrebbe seguirla alla lettera in modi disastrosi (il classico esempio dell'AI che per eliminare lo spam spegne internet). Definire obiettivi perfetti è la sfida più grande della sicurezza AI.
Decision Making Razionale
Grazie a questa funzione, l'AI può confrontare milioni di opzioni e scegliere matematicamente quella che offre il miglior risultato atteso, superando spesso l'istinto umano in situazioni di incertezza estrema.