Geliştiriciler, metin oluşturmak için sıkıştırma yoluyla gzipt aracını sundular

Geliştirici, gzipt adlı metin dizileri oluşturmak için DEFLATE sıkıştırma algoritmasını kullanan bir aracı sundu. Program, klasik sinir ağı eğitimi olmadan, bilgi teorisi ilkelerine dayanarak çalışır.

gzipt çalışması prensibi, metin devamının olasılığını sıkıştırma derecesi aracılığıyla değerlendirmektir. Araç, en olası tokenleri seçmek için ışın araması (beam search) kullanır ve gzip algoritması ile sıkıştırıldığında sonuç Dosyasının boyutunu en aza indirir. Belirli bir corpus bağlamında bir dizi ne kadar iyi sıkıştırılabiliyorsa, modeldeki puanı o kadar yüksektir.

Deneylerin sonucunda, sistem William Shakespeare'in metinlerinden oluşan bir corpus üzerinde test edildi. Araç, yalnızca sıkıştırma sırasında belirlenen istatistiksel kalıplara dayanarak karakterleri tahmin etme yeteneğini gösteriyor. Bu, sinir ağı ağırlıklarını kullanmadan orijinal veri setinin stilistik özelliklerini koruyan metin oluşturmayı sağlar.

Projenin uygulaması açık erişim için mevcuttur ve analiz ve yeniden üretim için kullanılabilir. Yöntem, dil modellemesine alternatif bir yaklaşım gösterir; burada model parametrelerinin eğitimi yerine, veri sıkıştırma algoritmalarının hesaplama gücü, bir dizinin sonraki öğesinin öngörülü olasılığını belirlemek için kullanılır.