研究人員開發了一種針對 LoRA 適配器的逆向工程方法

一組研究人員提出了一個用於分析 LoRA 適配器的框架，旨在研究其內部結構以及影響神經網路行為的機制。在研究過程中，作者應用了逆向工程方法，以了解低秩適應（Low-Rank Adaptation）究竟是如何修改模型輸出的。

分析顯示，LoRA 的運作方式是在神經元之間建立特定的連結，將資訊直接寫入 Transformer 架構的 residual stream（殘差流）中。此過程使適配器能夠在不影響基礎網路權重的情況下，有效地攔截並修改模型的激活狀態。

該方法有效性的實證在於成功利用 Weird Generalization LoRA 技術在模型中實現了後門。研究人員證明，透過操縱適配器權重，可以植入隱藏的觸發器，使其在特定輸入下啟動預設行為，同時在標準檢查中保持隱蔽。

這些研究結果為安全專家提供了審計第三方適配器的新工具。現在，開發人員可以檢查下載的權重是否包含隱藏在 LoRA 結構中的惡意指令，這對於保護在開放環境中使用微調模型的系統至關重要。