Çok dilli Aurora-m-instruct modeli 15 milyar parametreyle yayınlandı

Geliştiriciler, talimatları gerçekleştirmeye yönelik 15 milyar parametre ile özel bir dil modeli olan Aurora-m-instruct'i sundu. Sürüm, çok dilli bir ortamda AI ile güvenli etkileşim için araçların geliştirilmesine yöneliktir.

Mimari temelinde, geniş bir dil görevi yelpazesini desteklemek için geliştirilen Starcoderplus temel alınmaktadır. Modelin eğitimi, 1,5 trilyon token verinin işlenmesini içermektedir. Veri setinin hazırlanması sırasında güvenlik üzerinde özel bir dikkat gösterilmiş ve eğitim kümesine red-teaming araştırmalarının sonuçları entegre edilmiştir, bu da modelin zararlı istekleri daha etkili bir şekilde tanımlamasını ve engellemesini sağlar.

Model, Hugging Face platformunda indirilmeye hazır durumdadır. Teknik özellikleri, çok dilli metinlerle çalışırken talimatlara yüksek doğrulukla uyumu gerektiren görevlerde kullanılmasına olanak tanır. Geliştiriciler, projenin ana amacının AI sistemlerinin güvenliği alanında akademik ve uygulamalı araştırmalar için açık bir araç oluşturmak olduğunu vurgulamaktadır.

Modelin yayınlanması, geliştiriciler için erişilebilir kaynakları genişletmektedir, özellikle de kompakt ancak üretken çözümlerle çalışanlar için. Red-teaming'den geçmiş verilerin kullanılması, Aurora-m-instruct'i, modelin davranışı üzerinde kontrolün kritik olduğu ve istenmeyen içerik oluşturma risklerinin minimize edildiği kurumsal sistemlere entegre etmeye uygun hale getirmektedir.