Gemma-3 rotta da una coordinata

I ricercatori hanno scoperto che una coordinata può rompere l'abliteration sul modello Gemma-3. Questa coordinata, Channel 2339, ha una scala e una dispersione enormi, che la distinguono dalle altre modelli.

L'utilizzo del metodo Winsorization per mitigare l'influenza di questa coordinata consente di ripristinare le prestazioni del modello. Lo studio ha dimostrato che l'abliteration su Gemma-3-12b fallisce a causa di questa coordinata dominante.

Il modello Gemma-3 ha ricevuto 7 punti in 5 ore. Questo studio sottolinea l'importanza di un'analisi e un'elaborazione dei dati accurate per garantire il funzionamento affidabile dei modelli.

Questa scoperta può avere conseguenze significative per lo sviluppo e l'utilizzo dei modelli di intelligenza artificiale, poiché evidenzia le potenziali vulnerabilità nella loro architettura. I ricercatori continuano a studiare modi per migliorare la stabilità e le prestazioni dei modelli di intelligenza artificiale.