Dell делает ставку на локальные вычисления в сфере искусственного интеллекта и представляет новые серверные решения PowerEdge, предназначенные для компаний, которые хотят развивать ИИ у себя, а не платить крупным облачным провайдерам за доступ к мощным моделям. На конференции SC25 в Сент-Луисе компания представила новое семейство высокопроизводительных машин, рассчитанных на интенсивные ИИ-нагрузки.
Флагманские модели: PowerEdge XE9785 и XE9785L
Главными новинками стали PowerEdge XE9785 и его версия с жидкостным охлаждением XE9785L. Серверы оснащаются двумя процессорами AMD EPYC и полным набором из восьми графических процессоров AMD Instinct MI355X на узле.Мощная компоновка и высокая плотность размещения
Модификация XE9785L с жидкостным охлаждением занимает всего 3U в стойке. Такое решение позволяет разместить до 128 графических процессоров MI355X в одной 42U стойке, что обеспечивает огромную производительность и значительный объём памяти на стойку — больше, чем в конфигурациях на базе MI300X и даже чем в системах NVIDIA Grace Blackwell NVL72.Особенности архитектуры и преимущества
Хотя NVIDIA NVLink позволяет объединять стойку в единый «домен» вычислений, что важно для обучения самых крупных моделей, большинство типовых задач ИИ не требует такого подхода.Каждый MI355X оснащён 288 ГБ HBM3E, чего более чем достаточно для запуска и инференса крупномасштабных моделей. Поддержка новых форматов точности FP6 и FP4 обеспечивает значительный прирост производительности на квантованных моделях.
Ожидается, что поколение AMD MI450 получит механизмы объединения домена, схожие с NVLink.
Производительность
Модель XE9785 с воздушным охлаждением занимает 10U, однако остаётся достаточно компактной, учитывая её мощность.Одна такая машина способна обеспечить до 40 петафлопс FP8, что делает её одним из самых производительных решений Dell для ИИ-задач.
Сетевые технологии
Конфигурация серверов может включать сетевые адаптеры AMD Pensando Pollara 400 и решения Dell PowerSwitch. Новые коммутаторы Z9964F-ON и Z9964FL-ON также представлены, причём версия с индексом L получила жидкостное охлаждение.
Альтернативы на базе Intel
Для тех, кто предпочитает платформу Intel, Dell предлагает серверы PowerEdge R770AP. Они используют процессоры Intel Xeon 6 серии 6900, основанные исключительно на производительных ядрах (P-cores).Каждый процессор оснащён до 128 P-ядер Redwood Cove и ориентирован на конкуренцию с AMD EPYC в широком спектре задач. Такие серверы также могут комплектоваться ускорителями AMD Instinct, поскольку собственных GPU подобного уровня Intel пока не предлагает.
Программные инструменты и автоматизация
Dell также обновила свой пакет ПО, направленный на упрощение развертывания и эксплуатации ИИ-систем.Компания подчёркивает, что платформа автоматизации позволяет быстрее внедрять проверенные и безопасные решения.
Среди поддерживаемых инструментов:
- ИИ-помощник для кода Tabnine
- Агентская платформа ИИ Cohere North
- Обновлённые возможности Dell PowerScale с поддержкой параллельного NFS и оптимизациями для ИИ-поиска данных
Первоисточник: Zak Killian