TDP до 1,2 кВт: компания NVIDIA раскрыла подробности об ускорителях Blackwell

Кратко:

• NVIDIA представила новое поколение GPU Blackwell B200, которое использует совершенно новую микроархитектуру отличную от Hopper.
• Топовая модель Blackwell B200 имеет TDP в 1200 Вт, что на 500 Вт выше, чем у предыдущего флагмана Hopper H100.
• Blackwell B200 ориентирован на ИИ и включает в себя технологию второго поколения Transformer Engine, поддерживающую форматы вычислений FP4 и FP6, но при этом меньше акцентируется на стандартных вычислениях FP64.

Некоторое время назад на конференции GTC 2024 NVIDIA представила архитектуру Blackwell и устройства на её основе. На тот момент по какой-то причине генеральный директор компании Дженсенг Хуанг не стал раскрывать информацию о технических характеристиках графических ускорителей. Теперь этот пробел устранён.

Деталями поделились Джон Албе (старший вице-президент NVIDIA и архитектор графических процессоров) и Ян Бак (вице-президент NVIDIA по гипермасштабированию и HPC). Ещё до официального релиза было известно, что Blackwell станет серьёзным архитектурным обновлением по сравнению с Hopper, однако Ян Бак заявил, что Blackwell имеет совершенно другую микроархитектуру.

Известно, что Blackwell использует технологию Transformer Engine 2-го поколения, которая добавляет форматы вычислений FP4 и FP6. Эти форматы в сочетании с глубокой оптимизацией программного обеспечения сделали устройства на архитектуре Blackwell самыми мощными, когда речь заходит об алгоритмах искусственного интеллекта и ИИ-моделях. Правда, это сказалось на вычислениях FP64 — их скорость увеличилась только на 32%, но это не так важно, так как ускорители Blackwell изначально предназначены именно для нейросетей.

Во время презентации Дженсенг Хуанг не озвучил наименования новых GPU, из-за чего возникла некоторая путаница в характеристиках. Одним из чипов стала модель B200, которая легла в основу платформы GB200 Superchip. Ускоритель имеет показатель энергопотребления (TDP) в 1200 Вт, и это на 500 Вт выше, чем у Hopper H100. Сама платформа, которая включает два чипа B200, может потреблять до 2700 Вт электроэнергии.

Существует и менее прожорливая версия B200 с TDP 1000 Вт. Она является основой платформ DGX и HGX, и, как утверждается, обеспечивает 90% производительности флагманской. Также сообщается о модели B100 с энергопотреблением 700 Вт. Этот вариант предлагает около 80% производительности B200 (1000 Вт) и 70% производительности B200 (1200 Вт).

Вполне возможно, в ближайшее время компания NVIDIA раскроет еще более интересные подробности о своей новой линейке Blackwell.