Ricercatori hanno presentato il metodo VRR per migliorare le risposte LLM attraverso la verifica

I ricercatori hanno pubblicato un lavoro che descrive il metodo LLM-as-an-Improver, che consente ai modelli di non semplicemente scegliere la miglior risposta tra quelle proposte, ma di migliorarne attivamente la qualità. Il nuovo approccio, chiamato Verify--Repair--Reselect (VRR), utilizza il feedback del verificatore per generare alternative più precise nel processo di output.

A differenza dei metodi standard, in cui la verifica è limitata al ranking di un insieme fisso di candidati, VRR mantiene la variante più promettente e inizia a creare tre soluzioni aggiuntive. L'algoritmo include la correzione degli errori nel leader attuale e nella seconda migliore risposta, nonché la generazione di un approccio completamente nuovo. Il sistema filtra automaticamente le varianti non valide e duplicate, utilizzando solo i dati disponibili durante l'inferenza.

Il test su vari benchmark di scrittura di codice e pensiero logico ha mostrato che il metodo supera le strategie tradizionali di scelta da un pool fisso. VRR è in grado di recuperare le risposte corrette anche nei casi in cui tutte le varianti inizialmente generate contenevano errori. Ciò consente di aumentare l'affidabilità generale dei modelli senza la necessità di riaddestramento o modifica dell'architettura dei pesi stessi.

I risultati della ricerca sottolineano che il feedback del verificatore può servire come strumento per costruire candidati più forti, e non solo per filtrare quelli esistenti. Il lavoro è pubblicato sotto licenza Creative Commons Attribution 4.0, che consente di utilizzare gli algoritmi proposti in sviluppi di terze parti per aumentare la precisione di LLM.