Araştırmacılar AI'yi ölçeklendirmek için sürü organizasyonu kavramını önerdiler

Araştırmacılar, test zamanı hesaplama (test-time compute) verimliliğini alt çizgisel bir bağımlılıktan süper lineer bir bağımlılığa çevirmeyi sağlayan sürü organizasyonu analizi yayınladılar. Yöntem, karmaşık hesaplama görevlerini çözmek için çoklu ajanların koordinasyonunu kullanmayı içerir.

Yaklaşımın temelinde, monolitik modellerden dağıtılmış sistemlere geçiş yatmaktadır. OpenAI tarafından yürütülen bir deney örneği olarak, Navier-Stokes denklemlerini çözmek için 10 000 ajan içeren bir sistem kullanılmıştır. Bu tür bir mimarinin kullanılması, tek bir model için hesaplama gücünü artırmaktan daha iyi sonuçlar elde edilmesini sağlar.

Etkinliğin anahtarı, her bir ajanın uzmanlaşmış bir alt görevi gerçekleştirdiği koordinasyondur. Bu, bağlam işleme için genel giderleri azaltır ve sistemlere hesaplamaların karmaşıklığına bağlı olarak kaynakları dinamik olarak yeniden dağıtmalarına olanak tanır. Sürü yaklaşımının uygulanması, geleneksel model ölçekleme sınırlamalarının aşılma potansiyelini göstermektedir.

Verilen kavram, AI sistemlerinin tasarımına yaklaşımı değiştirir ve model parametrelerinin boyutundan ajanlar arasındaki etkileşim organizasyonuna odaklanır. Bu, mevcut donanım kaynaklarının daha etkili bir şekilde kullanılmasını sağlar ve temel modelleri yeniden eğitmeye gerek kalmadan görev çözme doğruluğunu artırır.