I ricercatori hanno valutato l'efficacia dei metodi di rimozione delle conoscenze dai modelli Qwen

I ricercatori hanno condotto una valutazione empirica dei metodi di "dimenticanza" (unlearning) e "inoculazione" (inoculation) sulla base del modello Qwen2.5-1.5-Instruct. Nel corso del lavoro, è stato esaminato come diversi approcci influenzano la capacità della rete neurale di sopprimere modelli di comportamento indesiderati mantenendo le abilità utili.

Come ambienti di test sono stati utilizzati set di dati specializzati FR-Caps e Hedge-Verse. Gli esperimenti hanno mostrato che i metodi di apprendimento moderni, come adattatori, prompt soft e prefissi, dimostrano un compromesso marcato tra l'eliminazione delle caratteristiche indesiderate e la conservazione della funzionalità generale del modello. Allo stesso tempo, l'uso di semplici istruzioni testuali (hand-written prompts) si è rivelato significativamente meno efficace per il controllo del comportamento del sistema.

I risultati del lavoro sottolineano la complessità della gestione dei pesi del modello senza degradare le sue caratteristiche di base. L'uso di vettori di task (task vectors) consente di influenzare in modo mirato aree di conoscenza specifiche, ma richiede una calibrazione attenta dei parametri per evitare il "dimenticamento catastrofico" di informazioni utili.

Questo studio fornisce una valutazione quantitativa della sicurezza di LLM in condizioni di necessità di rimozione di dati specifici dai pesi. I dati ottenuti aiutano gli sviluppatori a scegliere strategie ottimali per la regolazione dei modelli che richiedono un rigoroso rispetto delle restrizioni di sicurezza senza la necessità di un completo riaddestramento su nuovi set di dati.