Исследователи из MIT и MIT-IBM Watson AI Lab представили метод EnergAIzer, который быстро оценивает, сколько электроэнергии потребуется для запуска конкретной ИИ-задачи на графическом процессоре или специализированном ускорителе.
Главная идея проста: вместо долгой симуляции каждого шага работы GPU система использует повторяющиеся паттерны в ИИ-нагрузках и реальные измерения оборудования. Благодаря этому прогноз занимает не часы и не дни, а всего несколько секунд.
Почему энергопотребление ИИ стало большой проблемой
Рост генеративного ИИ резко увеличил нагрузку на дата-центры. Модели нужно обучать, дообучать и запускать для миллионов запросов, а большую часть этой работы выполняют мощные GPU — графические процессоры, хорошо подходящие для параллельных вычислений.
По оценкам Lawrence Berkeley National Laboratory, к 2028 году дата-центры могут потреблять до 12% всей электроэнергии в США. Поэтому индустрия ищет способы не только строить больше инфраструктуры, но и использовать уже имеющиеся ресурсы умнее.
Для операторов дата-центров важно заранее понимать, какая модель, на каком чипе и при каких настройках потратит меньше энергии. Без такого прогноза ресурсы распределяются менее точно, а часть электричества уходит впустую.
EnergAIzer считает быстрее традиционных моделей
Обычные методы оценки энергопотребления часто разбивают ИИ-нагрузку на множество мелких операций и имитируют, как каждая из них задействует блоки внутри GPU. Это дает подробную картину, но занимает слишком много времени, особенно если речь идет об обучении больших моделей или обработке крупных массивов данных.
EnergAIzer работает иначе. Исследователи заметили, что ИИ-программы обычно имеют регулярную структуру: разработчики заранее оптимизируют код, распределяют вычисления по параллельным ядрам и стараются эффективнее перемещать данные в памяти.
Эти повторяющиеся схемы позволяют построить более легкую модель оценки. Она не пытается воспроизвести каждый микрошаг работы процессора, а извлекает из программы достаточно информации, чтобы быстро предсказать общий расход энергии.
Точность повышают реальные измерения GPU
Одной скорости было бы недостаточно, если бы прогноз сильно ошибался. Поэтому команда MIT добавила в модель корректировки на основе реальных измерений работы GPU.
Например, запуск программы на графическом процессоре сам по себе требует энергии: чип нужно подготовить, настроить и передать ему задачу. Кроме того, каждая операция с фрагментом данных добавляет свой расход.
Есть и менее очевидные факторы. GPU не всегда использует всю доступную пропускную способность памяти: могут возникать задержки, конфликты при доступе к данным или колебания в работе железа. Если операция выполняется дольше, итоговое энергопотребление тоже растет.
Корректирующие коэффициенты помогают учесть такие отклонения. В тестах на реальных ИИ-нагрузках EnergAIzer оценивал расход энергии примерно с 8% ошибки, что сопоставимо с более тяжелыми традиционными подходами.
Как это поможет дата-центрам и разработчикам моделей
Пользователь может передать в систему описание нагрузки: какую ИИ-модель нужно запустить, сколько запросов она обработает и какой длины будут входные данные. После этого EnergAIzer быстро выдает оценку энергопотребления.
Также можно менять конфигурацию GPU или рабочую частоту и смотреть, как это влияет на общий расход. Для операторов дата-центров это способ сравнить несколько вариантов размещения нагрузки и выбрать более экономичный.
Разработчикам моделей такой инструмент полезен еще до запуска в продакшене. Они могут заранее оценить, насколько новая архитектура или алгоритм будут затратными, и принять решение: оптимизировать код, выбрать другое железо или изменить параметры обработки.
Важный шаг к более устойчивому ИИ
Для индустрии искусственного интеллекта это важно не только из-за счетов за электричество. Чем больше становятся модели и чем шире они используются, тем сильнее давление на энергосистемы и экологическую повестку.
Устойчивые вычисления — это подход, при котором производительность оценивают вместе с расходом энергии и воздействием на окружающую среду. Быстрые инструменты вроде EnergAIzer делают такую оценку практичной, а не академической задачей.
Авторы работы планируют проверить метод на новых поколениях GPU и масштабировать его для сценариев, где одну ИИ-нагрузку одновременно выполняет множество ускорителей. Именно такие распределенные системы сегодня лежат в основе обучения и обслуживания крупных моделей.
Исследование финансировалось при участии MIT-IBM Watson AI Lab и будет представлено на конференции IEEE International Symposium on Performance Analysis of Systems and Software.
