Dell представила серверы на базе AMD Instinct MI355X и процессоров EPYC

Dell делает ставку на локальные вычисления в сфере искусственного интеллекта и представляет новые серверные решения PowerEdge, предназначенные для компаний, которые хотят развивать ИИ у себя, а не платить крупным облачным провайдерам за доступ к мощным моделям. На конференции SC25 в Сент-Луисе компания представила новое семейство высокопроизводительных машин, рассчитанных на интенсивные ИИ-нагрузки.

Флагманские модели: PowerEdge XE9785 и XE9785L

Главными новинками стали PowerEdge XE9785 и его версия с жидкостным охлаждением XE9785L. Серверы оснащаются двумя процессорами AMD EPYC и полным набором из восьми графических процессоров AMD Instinct MI355X на узле.

Мощная компоновка и высокая плотность размещения

Модификация XE9785L с жидкостным охлаждением занимает всего 3U в стойке. Такое решение позволяет разместить до 128 графических процессоров MI355X в одной 42U стойке, что обеспечивает огромную производительность и значительный объём памяти на стойку — больше, чем в конфигурациях на базе MI300X и даже чем в системах NVIDIA Grace Blackwell NVL72.

Особенности архитектуры и преимущества

Хотя NVIDIA NVLink позволяет объединять стойку в единый «домен» вычислений, что важно для обучения самых крупных моделей, большинство типовых задач ИИ не требует такого подхода.

Каждый MI355X оснащён 288 ГБ HBM3E, чего более чем достаточно для запуска и инференса крупномасштабных моделей. Поддержка новых форматов точности FP6 и FP4 обеспечивает значительный прирост производительности на квантованных моделях.

Ожидается, что поколение AMD MI450 получит механизмы объединения домена, схожие с NVLink.

Производительность

Модель XE9785 с воздушным охлаждением занимает 10U, однако остаётся достаточно компактной, учитывая её мощность.

Одна такая машина способна обеспечить до 40 петафлопс FP8, что делает её одним из самых производительных решений Dell для ИИ-задач.

Сетевые технологии

Конфигурация серверов может включать сетевые адаптеры AMD Pensando Pollara 400 и решения Dell PowerSwitch. Новые коммутаторы Z9964F-ON и Z9964FL-ON также представлены, причём версия с индексом L получила жидкостное охлаждение.

Альтернативы на базе Intel

Для тех, кто предпочитает платформу Intel, Dell предлагает серверы PowerEdge R770AP. Они используют процессоры Intel Xeon 6 серии 6900, основанные исключительно на производительных ядрах (P-cores).

Каждый процессор оснащён до 128 P-ядер Redwood Cove и ориентирован на конкуренцию с AMD EPYC в широком спектре задач. Такие серверы также могут комплектоваться ускорителями AMD Instinct, поскольку собственных GPU подобного уровня Intel пока не предлагает.

Программные инструменты и автоматизация

Dell также обновила свой пакет ПО, направленный на упрощение развертывания и эксплуатации ИИ-систем.

Компания подчёркивает, что платформа автоматизации позволяет быстрее внедрять проверенные и безопасные решения.

Среди поддерживаемых инструментов:

• ИИ-помощник для кода Tabnine
  
• Агентская платформа ИИ Cohere North
  
• Обновлённые возможности Dell PowerScale с поддержкой параллельного NFS и оптимизациями для ИИ-поиска данных

Первоисточник: Zak Killian