開發人員推出了gzipt工具,該工具通過壓縮來生成文本
2026年9月22日
開發人員介紹了 gzipt — 一種使用DEFLATE壓縮算法來生成文本序列的工具。該程序不需要經典的神經網絡訓練,而是基於信息理論的原理。
gzipt 的工作原理是通過評估文本的壓縮程度來評估其續寫的可能性。該工具使用束搜索(beam search)來選擇最可能的token,以確保在使用gzip算法壓縮時生成的文件大小最小。在給定的語料庫中,序列的壓縮程度越好,其在模型中的評分就越高。
在實驗中,系統在威廉·莎士比亞的文本語料庫上進行了測試。該工具展示了基於壓縮數據中發現的統計模式來預測字符的能力。這使得可以生成保持原始數據集風格特色的文本,而無需使用神經網絡的權重。
該項目的實現可供分析和複製,方法是訪問 開放存取。該方法展示了一種語言建模的替代方法,即使用數據壓縮算法的計算能力來確定序列下一個元素的預測概率,而不是訓練模型參數。



