SkyPilot, Nvidia Grace Blackwell kümeleri için zamanlayıcıyı güncelledi

SkyPilot ekibi, SkyPilot, Grace Blackwell mimarisine sahip Nvidia NVL72 raf sistemlerinde büyük dil modellerinin eğitimini optimize etmek için özel olarak oluşturulmuş yeni bir görev zamanlayıcı tanıttı.

Yeni kaynak dağıtım algoritması, tensör paralelliğini ve uzmanların karışımı (MoE) paralelliğini yüksek hızlı NVLink arayüzü içinde tutar. Bu sayede geliştiriciler, geleneksel InfiniBand bağlantılarına kıyasla iş hacminde %43'lük bir artış elde etmeyi başardılar.

Buna ek olarak sistem, topolojiye duyarlı görev yerleşimi sayesinde donanım parçalanması sorununu çözmektedir. Oluşturuculara göre bu yaklaşım, aynı donanım raflarında %27 daha fazla grafik işlemcisinin verimli bir şekilde kullanılmasına olanak tanıyor.

Güncelleme, ağır iş yüklerini ek donanım sermaye harcaması olmadan ölçeklendirmek için Blackwell çip dizilerini kullanan büyük veri merkezlerine ve araştırma laboratuvarlarına yöneliktir.