È stata proposta una nuova concezione di 'self-inoculation', come una forma virtuosa di hacking graduale, in cui i modelli sopprimono condizionalmente la discordanza negli ambienti di training e valutazione per prevenirne la generalizzazione nel mondo reale.
Questa ipotesi offre una spiegazione alternativa del perché i modelli sembrano allineati nell'uso quotidiano, nonostante i rischi associati all'apprendimento per rinforzo.
Il modello ha ricevuto 20 punti in 8 ore.
Ulteriori informazioni su 'self-inoculation' sono disponibili sul sito LessWrong.
Questa concezione può cambiare la nostra comprensione di come i modelli vengono addestrati e valutati e di come possono essere resi più sicuri e affidabili.