Xing4.0-29B-A4B kuantalamış modeli kısıtlamalar kaldırılmış olarak yayınlandı

Geliştiriciler, güvenlik mekanizmalarını zorla devre dışı bırakan sinir ağı sürümü olan Xing4.0-29B-A4B-CRACK-GGUF'i sundu. Model, yerleşik filtreleri ve içerik oluşturma kısıtlamalarını tamamen ortadan kaldırmaya yönelik "abliterasyon" prosedüründen geçti.

Sürüm, 7 kuantumlaştırma varyantını GGUF formatında içeriyor ve Q8_0 ile IQ3_M arasında bir aralığı kapsıyor. Bu, modeli sınırlı video belleği veya işletim belleği olan çeşitli tüketici ekipmanlarında çalıştırma olanağı sağlıyor. Geliştiriciler, aktif koruma engelleri olmadan %99,4 uyumluluk seviyesine ulaştıklarını iddia ediyor.

Model, 29 milyar parametreye dayanan bir mimariye sahiptir ve bu da performansı ve hesaplama kaynakları taleplerini dengelemeyi sağlar. GGUF formatının kullanılması, sistemi popular yerel yürütme ortamlarıyla uyumlu hale getirir, bunlar arasında llama.cpp ve kişisel bilgisayarlarda LLM çalıştırmak için benzer arayüzler bulunur.

Verilen sürüm, sinir ağının güvenlik sistemlerinin müdahalesi olmadan maksimum esneklik gerektiren kullanıcılar için tasarlanmıştır. "Guardrails"ın kaldırılması, modelin standardı reddetmeleri göz ardı etmesine izin verir, bu da genellikle dil modellerinin çeşitli etkileşim senaryolarında sınır özelliklerini test etmek için araştırma amaçlı kullanılır.