DeepSeek-R1-Zero потребовала в 30 раз меньше вычислительных мощностей

Исследователи пересмотрели оценку затрат на обучение модели DeepSeek-R1-Zero. Согласно уточненным данным, процесс обучения с подкреплением (RL) потребовал около 2e22 FLOPs, что в 30 раз меньше первоначальных прогнозов.

Корректировка показателей стала возможной благодаря пересчету размера батча и уточнению коэффициента использования вычислительной мощности (MFU). Изначальные оценки не учитывали специфику распределения нагрузки при RL-обучении, что привело к значительному завышению требуемых ресурсов в ранних отчетах.

Данное уточнение демонстрирует, что современные методы обучения с подкреплением могут быть существенно более экономичными, чем предполагалось ранее. Для разработчиков это означает возможность более точного планирования инфраструктуры при масштабировании аналогичных моделей, а также подтверждает высокую эффективность текущих алгоритмов оптимизации, применяемых в DeepSeek.