RLHF (Reinforcement Learning from Human Feedback)
Metodo per allineare l'AI ai valori umani, facendo valutare a persone reali la qualità delle risposte fornite dal modello.
Educare l'AI: Il Metodo RLHF
L'RLHF è il "tocco finale" che rende i chatbot come ChatGPT educati, utili e sicuri. Dopo che il modello ha imparato tutto da internet, degli umani valutano le sue risposte: "questa risposta è corretta", "questa è offensiva". L'AI impara così a preferire ciò che piace agli umani.
Allineamento (Alignment)
Questo processo è fondamentale per evitare che l'AI diventi tossica o fornisca informazioni pericolose. È la fase in cui si definisce la "personalità" e l'etica del modello, assicurandosi che sia un assistente collaborativo e non un pappagallo stocastico senza freni.
Criticità e Sfide
L'RLHF è estremamente costoso perché richiede migliaia di ore di lavoro umano specializzato. Inoltre, c'è il rischio di trasmettere all'AI i pregiudizi delle persone che la stanno valutando, rendendo il processo molto delicato dal punto di vista etico.