Ricercatori hanno dimostrato l'efficacia della maschera dei dati per l'addestramento dell'AI

Un gruppo di scienziati ha pubblicato i risultati di una ricerca, che confermano che la limitazione del volume di dati disponibili per l'elaborazione da parte dei singoli moduli del sistema migliora notevolmente la loro capacità di generalizzazione composizionale. Nel corso dell'esperimento sono state utilizzate 60 sistemi costruiti sulla base di un modello linguistico congelato, che scambiavano informazioni attraverso pacchetti continui apprendibili.

Nel quadro della sperimentazione sono state applicate diverse condizioni di mascheramento delle prove, l'utilizzo di marcatori di proprietà e la sostituzione dei dati esterni con riempitivi neutrali. In presenza di marcatori, la mascheratura dei dati ha aumentato la precisione nell'esecuzione dei compiti di 0,846 e 0,859 punti mediani per composizioni di due e tre operazioni rispettivamente. Tutte le 12 coppie di controllo hanno superato con successo le soglie di precisione stabilite, confermando l'ipotesi sui vantaggi dell'accesso limitato alle informazioni.

I ricercatori hanno condotto un'audit di 18 sistemi con l'applicazione della mascheratura, in ognuno dei quali hanno rilevato i cambiamenti previsti dei valori intermedi durante l'elaborazione dei dati. Nonostante il successo nei test, l'influenza dei marcatori di ruolo espliciti sul comportamento dei sistemi non è stata completamente studiata, poiché nessuno dei modelli globalmente visibili ha superato il test di aderenza ai marcatori.

Gli autori del lavoro hanno fornito l'accesso aperto ai protocolli, ai risultati e ai checkpoint dei modelli in conformità con la licenza arXiv. I dati ottenuti indicano che le limitazioni architettoniche sulla visibilità dei dati possono diventare un fattore chiave nello sviluppo di sistemi AI più affidabili e logicamente coerenti, in grado di gestire meglio le nuove combinazioni di compiti.