Ricercatori hanno presentato il framework CLEAR per la verifica dei dati medici

I ricercatori hanno presentato CLEAR — un framework agente progettato per risolvere le contraddizioni nei dati medici quando si lavora con grandi modelli linguistici. Il sistema è stato progettato per combattere le allucinazioni e le inesattezze che si verificano quando si utilizzano architetture RAG in aree critiche.

L'algoritmo funziona attraverso tre canali di acquisizione di informazioni indipendenti: le conoscenze parametriche del modello stesso, i corpora medici locali e i dati estratti dinamicamente da fonti esterne. L'aggregatore verifica i candidati per la risposta, confrontandoli con la base di prove e verificando la qualità di ogni fonte per l'accordo o il conflitto dei dati.

Il modulo di adiudicazione prende una decisione sulla conservazione o sulla correzione della risposta, utilizzando meccanismi di "override" e "audit dei reclami". In caso di rilevamento di contraddizioni irrisolvibili, il sistema avvia automaticamente una ricerca ripetuta mirata e una procedura di verifica, aumentando così l'accuratezza effettiva delle conclusioni.

L'utilizzo di CLEAR consente di minimizzare i rischi associati all'obsolescenza delle conoscenze nei pesi LLM. A differenza dei sistemi RAG standard, che spesso accettano dati contraddittori come verità, questo framework garantisce una verifica a più livelli delle prove, che è fondamentale per le raccomandazioni cliniche e la diagnostica.