Microsoft представила AI-ускорители Maia 200 для повышения независимости облачного ИИ
Несмотря на то, что у генерального директора Сатья Наделлы уже есть «куча чипов на складе» из-за нехватки электроэнергии, Microsoft только что анонсировала собственный кремний для ИИ следующего поколения: ускоритель Maia 200, созданный для более быстрого и дешевого запуска больших моделей в облаке по сравнению с тем, что сейчас есть в Azure. Это часть более широкой стратегии по снижению зависимости от сторонних AI-чипов (таких как у Nvidia) за счет большего объема собственной разработки оборудования.
По сути, Maia 200 — это AI-чип от собственной команды разработчиков кремния Microsoft, специально созданный для выполнения инференса на больших языковых моделях и других генеративных AI-задачах. В отличие от первого Maia (Maia 100), который был скорее ранним экспериментом, Microsoft намеренно сравнивает эту модель с конкурентами прямо с порога.
Maia 200 демонстрирует впечатляющие показатели для задач инференса. Он изготовлен по 3-нм техпроцессу TSMC с более чем 140 миллиардами транзисторов и поддерживает тензорные вычисления низкой точности FP8 и FP4, достигая, как утверждается, примерно 10 петафлопс на FP4 и около 5 петафлопс на FP8. Это форматы, в которых современные большие модели обычно работают для скорости и эффективности. Microsoft заявляет, что чип имеет 216 ГБ памяти HBM3e с пропускной способностью ~7 ТБ/с, плюс 272 МБ встроенной SRAM для повышения производительности за счет хранения данных ближе к вычислительным блокам.
Azure утверждает, что Maia 200 обеспечивает примерно на 30% лучшую производительность на доллар по сравнению с оборудованием предыдущего поколения в их парке. На системном уровне Maia 200 использует высокопропускную фабрику масштабирования на основе Ethernet и пользовательскую компоновку памяти/перемещения данных для поддержания эффективности больших моделей в крупных кластерах.
Microsoft явно позиционирует Maia 200 против другого облачного кремния; в частности, против Amazon Trainium 3, по сравнению с которым Maia 200 предположительно обеспечивает примерно в 3 раза более высокую производительность FP4, и Google TPU v7, где производительность FP8 Maia, по-видимому, конкурентоспособна или выше. Это поколенческие конкуренты, которые AWS и Google продвигают, чтобы бросить вызов Nvidia, и хотя Microsoft не показывает прямых сравнений с GPU Nvidia в своем собственном пресс-релизе, основная цель ясна: снизить долгосрочную зависимость от Nvidia для инференса.
Конечно, семейство Blackwell от Nvidia остается золотым стандартом для смешанных AI-задач (особенно обучение + инференс), но облачный рынок достаточно велик для нескольких игроков, особенно сейчас. Запуск Microsoft — часть этой более широкой тенденции.
Microsoft заявляет, что Maia 200 уже развернута в регионе Azure US Central (Айова) с планами расширения на дополнительные регионы, и мегакорпорация представляет SDK Maia с поддержкой PyTorch, инструментами компилятора Triton и оптимизированными ядрами, чтобы разработчикам было проще настраивать модели. Естественно, если вы хотите поработать с ним, вам придется войти в Azure, потому что он не продается как отдельный продукт; он предназначен только для инфраструктуры Azure.
Согласно The Information, новый AI-чип Microsoft (внутреннее кодовое название Braga) изначально ожидался в середине 2025 года, но был отложен до 2026 года после изменений в дизайне, предположительно потребованных OpenAI, проблем со стабильностью в симуляциях и повышенной текучести среди разработчиков чипов. Такие задержки не являются необычными в мире пользовательского кремния; чертовски сложно спроектировать, смоделировать и выпустить эти монстры. Они действительно означают, что Microsoft догоняет более широкую гонку облачного AI-кремния, а не мчится далеко впереди неё. Нам придется подождать независимых бенчмарков, прежде чем мы сможем объявить, является ли Maia 200 значительным шагом вперед или нет.Первоисточник: Zak Killian