Пульс обучения: почему кластер ИИ раскачивает электросеть
Обучение большой модели идет тактами: чипы считают, потом синхронизируются. Эти качели потребления видны уже на уровне сети, а гасить их исследователи предлагают на трех уровнях сразу.
Дата-центр обычно меряют энергоэффективностью. Для операторов сети важнее другое: как именно он берет энергию. Кластер, обучающий модель, ведет себя не как обычная серверная ферма. Он потребляет энергию резкими пульсациями, которые способны дестабилизировать локальную энергосистему.
Механика пульса: считаем и ждем
Обучение большой языковой модели циклично и разбито на итерации. В вычислительной фазе десятки тысяч видеокарт одновременно загружены математикой и берут мощность близко к пределу. Затем наступает коммуникационная фаза: чипы синхронизируют полученные веса по сети, обмениваясь данными, а вычислительная нагрузка падает. Чередование этих фаз и создает качели в энергопотреблении всего кластера.
Исследование 2025 года, выполненное специалистами Microsoft, OpenAI и NVIDIA, проверено на реальном оборудовании и в симуляторе энергосистемы Microsoft. Оно показывает: чем крупнее обучающая задача, тем сильнее размах колебаний.
Резонанс и угроза для сети
Электросеть держится на балансе. Когда гигантский потребитель резко сбрасывает и набирает десятки мегаватт нагрузки с определенной периодичностью, в сети возникают колебания. Главный риск в том, что частота скачков потребления может совпасть с критическими частотами сети. В этом случае возможны нестабильность напряжения и физическое повреждение инфраструктуры.
Три слоя сглаживания
Авторы исследования предлагают решать проблему на трех уровнях сразу. Первый, программный: планировщик задач дата-центра подбрасывает серверам контролируемую фоновую нагрузку в моменты коммуникационных пауз, не давая энергопотреблению резко падать.
Второй, аппаратный: прошивка видеокарт удерживает минимальный порог мощности и ограничивает скорость ее роста и падения.
Третий, инфраструктурный: накопители энергии на уровне стойки отдают энергию в пики и запасают ее в паузы. Авторы предлагают сочетать этот слой со сглаживанием на уровне видеокарт, а не полагаться на один из них.
Получается, энергоэффективность и ровное потребление для сети это разные инженерные свойства. Чем крупнее кластеры, тем важнее второе: сеть должна получать нагрузку без рывков, а не просто меньшую по итогу.