Nvidia представила новое поколение серверных ИИ-чипов

Корпорация представила архитектуру для видеоускорителей нового поколения Hopper и основанный на ней чип H100, предназначенный для задач машинного обучения.
Новинка производится по 4-нм техпроцессу и содержит 80 млрд транзисторов. Это первый графический процессор компании, поддерживающий интерфейс подключения PCle Gen5 и использующий HBM3, что обеспечивает пропускную способность памяти 3 ТБ/с.

В компании заявили, что H100 в три раза быстрее его предшественника A100 при вычислениях FP16, FP32 и FP64 и в шесть раз быстрее при 8-битных вычислениях с плавающей запятой.

«Для обучения гигантских моделей трансформеров H100 оказался в девять раз производительнее, тренируясь всего за несколько дней вместо недель», — сказал старший директор Nvidia по управлению продуктами Пареш Харья.

H100 поступит в продажу в третьем квартале 2022 года.
Nvidia также представила процессор Grace CPU Superchip, основанный на архитектуре ARMv9. В его основе лежат два чипа Grace, объединенных по технологии NVLink, которая обеспечивает скорость передачи данных до 900 ГБ/с.

Grace CPU Superchip содержит 144 ядра ARM и потребляет около 500 Вт энергии. Чип поддерживает память LPDDR5x, которая обеспечивает пропускную способность до 1 ТБ/с. Grace CPU Superchip будет доступен в первой половине 2023 года. Помимо оборудования, Nvidia обновила различные программные сервисы искусственного интеллекта, включая SDK для улучшения звука и видео Maxine и набор инструментов для разработки систем обработки естественного языка Rivay. Компания анонсировала создание нового суперкомпьютера Eos с искусственным интеллектом. Установку оснастят 4600 графическими процессорами H100, что обеспечит производительность в 18,4 экзафлопс. Система будет использоваться только для внутренних исследований компании. Напомним, в феврале на фоне давления регуляторов США, ЕС и Великобритании Nvidia отказалась от покупки ARM за $40 млрд. В том же месяце производитель чипов отчитался о падении выручки от продажи видеокарт для майнинга криптовалют.

В январе Meta объявила о создании крупнейшего в мире суперкомпьютера с искусственным интеллектом на базе процессоров Nvidia.