Поддержка AMD AVX-512 FP16 в процессорах Zen 6

Компания AMD раскрыла важные детали о наборе инструкций последовательной процессорной архитектуры Zen 6. Информация стала изменена благодаря патчам для GNU Binutils, где появилась новая целевая платформа "Znver6" для GNU Assembler.

Новые инструкции по расширениям

Помимо инструкций, применимых к Zen 5, архитектура Zen 6 добавляет следующие расширения: AVX512_BMM, AVX_NE_CONVERT, AVX_IFMA, AVX_VNNI_INT8 и AVX512_FP16.

Из этих расширений только AVX512_BMM является по-настоящему новым, уже используемым серверными процессорами Intel Granite Rapids. AVX512_BMM представляет собой новый набор инструкций для ускорения операций битовой маскировки матрицы, что обеспечивает прирост производительности для бинарных нейронных сетей.

Значение поддержки AVX-512 FP16

Важнейшим аспектом является добавление AVX512_FP16, которое обеспечивает поддержку типа данных FP16 в качестве «полноправного гражданина» на процессорах x86-64. Хотя AMD не первая компания, реализующая эту функцию, она станет первым, кто внесет ее на клиентские настольные платформы.

Это имеет большое значение, поскольку значительная часть достижений в области искусственного интеллекта и машинного обучения с использованием типовых данных FP16. Исторически сложилось так, что необходимо либо неуклюже эмулировать поддержку с помощью адаптера FP32, либо взять на себя задачу ускорителей с нативной поддержкой.

Наличие встроенной поддержки FP16 на клиентских настольных процессорах означает, что вскоре станет гораздо проще проводить эксперименты с ИИ в домашней лаборатории без необходимости в дорогостоящем и энергоёмком графическом оборудовании.

Преимущества для разработчиков

С выходом процессоров AMD Zen 6, запланированных на следующий год, первоначально разработчики, работающие на обычных настольных компьютерах x86-64, имеют возможность нативно писать ядра на FP16, тестировать их с помощью стандартных инструментов профилирования ЦП и получать результаты, которые напрямую соответствуют аппаратному обеспечению постоянного управления, без необходимости использования специальных SDK.

Это является передовым прогрессом для экосистемы экспериментов с ИИ, особенно после того, как Intel, по-видимому, продолжает сегментацию рынка AVX-512 в своих будущих процессорах Nova Lake.

Первоисточник: Zak Killian