I ricercatori hanno scoperto l'incompatibilità degli "àncore di pensiero" tra modelli

Ricercatori hanno analizzato l'efficacia del trasferimento di "àncore di pensiero" (thought anchors) tra diverse modelli linguistici nel processo di catena di ragionamento (Chain-of-Thought). Gli esperimenti hanno mostrato che le fasi logiche chiave, evidenziate da un modello, non migliorano le prestazioni di un altro quando vengono trasferite.

Durante il test, è stato scoperto che anche quando vengono utilizzati prompt identici, i nodi logici che aiutano una specifica architettura a raggiungere la risposta corretta rimangono specifici per i suoi pesi. I modelli non sono in grado di interpretare efficacemente le "àncore" altrui come guida all'azione, a meno che non contengano indicazioni dirette relative alle opzioni di risposta.

I risultati della ricerca dimostrano che le indicazioni nascoste possono essere trasferite tra i sistemi solo se nella traccia del ragionamento vengono già discusse esplicitamente le opzioni di scelta specifiche. In tutti gli altri casi, il tentativo di implementare "àncore" dall'esterno porta a una riduzione della precisione o all'ignoramento del contesto.

Queste conclusioni mettono in discussione i metodi di trasferimento automatico delle catene logiche tra modelli eterogenei. Invece di "àncore" universali, i ricercatori suggeriscono di concentrarsi sull'adattamento degli stessi algoritmi di generazione alle specifiche caratteristiche architettoniche di ciascun modello.

Questa ricerca chiarisce i limiti dell'interpretazione dei sistemi AI. La comprensione del fatto che le strutture logiche non sono universali aiuta gli sviluppatori a regolare più precisamente i processi di Chain-of-Thought per aumentare l'affidabilità delle risposte in compiti complessi a più fasi.