Geliştirici GLiNER modelini Gemini ile 9 dolar karşılığında yeniden eğitti

Geliştirici, Gemini'den alınan etiketlemeyi kullanarak özel GLiNER modelinin yeniden eğitimi sürecini uygulamıştır. Tüm veri hazırlama ve eğitim döngüsü 24 dakika sürmüş ve API isteklerinin toplam maliyeti 9 dolar olmuştur.

Bu sayede, Reddit'e özgü verilerde adanmış varlık tanıma (NER) görevinde 0,83 F1 puanı elde edilmiştir. Model, yorumlarla çalışmak için optimize edilmiştir ve bu da minimum hesaplama kaynaklarıyla yüksek doğruluk elde edilmesini sağlamıştır. Yazarın hesaplamalarına göre, geliştirme maliyeti 4.291 yorum işlendikten sonra kendini amorti etmektedir.

Büyük dil modellerinin sentetik etiquetli veriler oluşturmak için kullanılması, kompakt özel çözümler oluşturmanın etkili bir yolu haline gelmektedir. Her istek için ağır modeller yerine, yeniden eğitilen GLiNER modeli benzer işlevleri çok daha düşük çıkarım maliyetleriyle gerçekleştirir.

Bu yaklaşım, büyük veri kümelerini elle etiquetleme ihtiyacını ortadan kaldırarak metin analizi için hızlı ve uzmanlaşmış araçlar oluşturmanın mümkün olduğunu göstermektedir. Bulut tabanlı LLM mantığını yerel veya hafif modellere aktarmak, veri işlemenin ölçeklendirilmesinde operasyonel giderleri önemli ölçüde azaltmaya olanak tanır.