Nvidia снизила энергопотребление ИИ-кластера на 25%

Компания Nvidia протестировала архитектуру DSX Flex для управления энергопотреблением ИИ-кластеров

В ходе теста кластер из 256 графических процессоров с архитектурой DSX Flex сумел сократить потребление энергии на 25% в момент перегрузки электросети — и делал это на протяжении трёх часов. При этом критически важные задачи продолжали выполняться без перебоев.

Проблема энергопотребления центров обработки данных для ИИ становится всё более острой: по прогнозам, спрос на электроэнергию в США вырастет с 35 гигаватт в 2024 году до 125 гигаватт к 2030 году. Компании ищут способы оптимизировать использование энергии — от выбора площадок с доступной мощностью до повышения эффективности оборудования.

Например, компания Delta разрабатывает трансформаторы и платформу управления, которые позволяют координировать подачу энергии из разных источников — от электросети до солнечных панелей и топливных элементов. А Emerald AI предлагает систему, которая регулирует нагрузку на центр обработки данных: в пиковые моменты она может снизить потребление энергии, сохранив работу приоритетных задач.

Другие игроки рынка тоже работают над решением проблемы: так, процессоры AWS Graviton, по заявлениям компании, повышают энергоэффективность до 60% в зависимости от нагрузки. Успешный тест Nvidia демонстрирует, что гибкость в управлении энергопотреблением может стать важным инструментом в борьбе с растущим спросом на электроэнергию со стороны ИИ-технологий.

Ранее по теме: NVIDIA выпустила новые модели искусственного интеллекта

Источник: Tech Insider