OpenAI ha licenziato i contractor per aver utilizzato l'intelligenza artificiale durante l'annotazione dei dati

L'azienda OpenAI ha rescisso i contratti con un gruppo di dipendenti che utilizzavano strumenti AI di terze parti per eseguire compiti di formazione e annotazione dei modelli. L'incidente è avvenuto nell'ambito di un programma volto a migliorare la qualità delle risposte delle reti neurali, in cui le persone dovevano verificare e correggere manualmente il contenuto generato.

Secondo i rapporti interni, i contractor utilizzavano sistemi automatizzati per generare risposte, che venivano poi presentate come risultati del proprio lavoro. L'utilizzo di AI per eseguire compiti di annotazione viola i protocolli di sicurezza dell'azienda, poiché porta all'inserimento di dati sintetici nei set di dati di training, il che può scatenare l'effetto del "collasso del modello".

Nelle discussioni gli esperti sottolineano che azioni simili riducono la precisione dell'RLHF (apprendimento con rinforzo basato su feedback umani). Quando un modello viene addestrato su dati creati da un altro modello, inizia a ereditare gli errori e le allucinazioni del predecessore, il che rende il risultato finale meno affidabile per gli utenti finali.

Al momento attuale OpenAI ha rafforzato il controllo sul processo di verifica dei dati. L'azienda richiede che tutte le fasi di formazione legate alla valutazione della qualità si svolgano esclusivamente con la partecipazione umana, al fine di escludere il rischio di degrado delle future versioni dei modelli a causa dell'"avvelenamento" del set di dati di training con contenuti automatizzati.