What impact has the advent of AI technologies on data center power density?

Внедрение технологий искусственного интеллекта (ИИ) привело к значительному увеличению плотности мощности в центрах обработки данных (ЦОД). www.cta.ru www.mckinsey.com

Современные логические модели ИИ требуют в 150 раз больше вычислительной мощности по сравнению с предыдущими версиями. www.cta.ru Это приводит к следующим последствиям:

• Рост энергопотребления. www.cta.ru www.mckinsey.com Если традиционные рабочие нагрузки ЦП могут потреблять 6–10 кВт на стойку, то рабочие нагрузки ИИ могут потреблять до 50 кВт, а в будущем, с учётом новых графических процессоров, эта цифра может достигнуть 250 кВт на стойку. www.cta.ru
• Необходимость в специализированных технологиях охлаждения. ixcellerate.ru Воздушное охлаждение становится технически и экономически нецелесообразным при нагрузке в 25–30 кВт, а при 50 кВт оно становится неэффективным. ixcellerate.ru
• Потребность в высокоскоростных соединениях. www.cta.ru Для кластеров ИИ необходимо наличие нескольких источников питания для энергоёмких серверов. www.cta.ru
• Изменение подхода к размещению стоек. ixcellerate.ru В ЦОД для ИИ стойки должны размещаться максимально компактно: чем ближе они друг к другу, тем короче соединительные линии и быстрее вычисления. ixcellerate.ru

По данным Schneider Electric, к 2028 году ИИ-нагрузки могут составить 20 ГВт, или 20% от общего энергопотребления дата-центров. habr.com