Che cos'è l'auto-miglioramento ricorsivo
Il Recursive Self-Improvement (RSI) descrive un processo nel quale un sistema di intelligenza artificiale contribuisce a migliorare le proprie capacità e usa i risultati per rendere più efficace il ciclo successivo. L'elemento distintivo non è soltanto ottenere una risposta migliore: è migliorare anche il processo con cui vengono prodotti e verificati i miglioramenti.
Il termine viene usato sia per procedure limitate, come l'ottimizzazione automatizzata di codice, sia per scenari teorici di crescita delle capacità generali. Confondere questi significati porta a conclusioni fuorvianti: un programma che ottimizza una funzione non dimostra, da solo, l'esistenza di un'intelligenza capace di evolvere senza limiti.
Come si struttura un ciclo di miglioramento
- Obiettivo misurabile: definire che cosa deve migliorare, per esempio la correttezza di un algoritmo o il consumo di memoria.
- Proposta: generare una modifica al software, ai dati o alla procedura di addestramento.
- Verifica: confrontare la proposta con una versione di riferimento e con prove indipendenti.
- Selezione: conservare soltanto le modifiche che soddisfano i requisiti.
- Nuova iterazione: usare ciò che è stato appreso per cercare altre soluzioni.
Il controllo esterno è essenziale. Se il sistema sceglie da solo sia la modifica sia un test troppo favorevole, può sembrare più capace senza esserlo davvero. Inoltre, modificare una spiegazione o un prompt non equivale necessariamente a modificare i pesi del modello: quest'ultimo passaggio richiede una procedura di addestramento o fine-tuning.
Che cosa è stato dimostrato, e che cosa no
La ricerca STaR (Zelikman e colleghi, 2022) mostra un ciclo in cui un modello genera spiegazioni, seleziona quelle associate a risposte corrette e le usa per ulteriore addestramento. È un esempio concreto di apprendimento iterativo dalle proprie produzioni, all'interno di compiti e criteri definiti dai ricercatori.
AlphaEvolve di Google DeepMind combina modelli linguistici, valutatori automatici e ricerca evolutiva per proporre e selezionare algoritmi. Dimostra l'utilità della ricerca automatizzata quando la qualità delle proposte può essere misurata.
Questi risultati non provano un auto-miglioramento generale, illimitato o inevitabilmente esponenziale. Aumentare la capacità di risolvere un insieme di problemi è diverso dal rendere il sistema migliore in qualsiasi attività. Non esiste neppure un singolo indicatore che certifichi il passaggio dall'ottimizzazione specialistica alla AGI.
Un esempio pratico
Immaginiamo un agente incaricato di velocizzare l'importazione di un catalogo. Può proporre una nuova funzione, eseguirla su dati di prova e misurare il tempo impiegato. La modifica è accettabile soltanto se conserva tutti i record, gestisce gli errori e non peggiora il consumo di memoria oltre una soglia. Ripetere il ciclo può migliorare quel processo; non significa che l'agente stia diventando autonomamente più intelligente in senso generale.
Limiti, rischi e criteri di valutazione
- Misure ingannevoli: ottimizzare un punteggio può sacrificare qualità non incluse nel test.
- Sovra-adattamento: ripetere sempre le stesse prove favorisce soluzioni valide soltanto su quelle prove.
- Costo: ogni ciclo richiede calcolo, dati e tempo; i benefici possono diminuire.
- Regressioni: una modifica efficace su un caso può peggiorarne altri.
- Permessi: la possibilità di modificare codice o eseguire strumenti deve essere limitata, registrata e revocabile.
Per valutare un'affermazione di RSI conviene chiedere: che cosa è stato modificato, chi ha verificato il risultato, su quali test indipendenti e con quale costo? Per un'impresa contano soprattutto affidabilità, riproducibilità e possibilità di ripristino, non l'etichetta utilizzata.
Da non confondere con l'autocorrezione
Un chatbot che rivede una risposta sta eseguendo un'autocorrezione durante l'inferenza. Un loop agentico può ripetere azioni e controlli senza aggiornare il modello. Il RSI, nella sua accezione più forte, riguarda invece il miglioramento persistente delle capacità e della capacità stessa di migliorarsi. Sono livelli differenti, che richiedono prove differenti.
Contenuto aggiornato il .