На конференции Supercomputing 2023 на этой неделе Nvidia анонсировала выход нового суперчипа для задач искусственного интеллекта и самого мощного графического процессора. Эта технология представляет собой значительный скачок по сравнению с последним поколением и будет использоваться в центрах обработки данных и суперкомпьютерах.
На конференции Supercomputing 2023 на этой неделе Nvidia анонсировала выход нового суперчипа для задач искусственного интеллекта и самого мощного графического процессора. Эта технология представляет собой значительный скачок по сравнению с последним поколением и будет использоваться в центрах обработки данных и суперкомпьютерах.
Ключевым продуктом является графический процессор HGX H200 на основе архитектуры Hopper от NVIDIA, замена популярного графического процессора H100, пишет Engadget.
Впервые использует HBM3e память, которая является более быстрой и имеет большую емкость, поэтому лучше подходит для больших языковых моделей.
Обеспечивает 141 ГБ памяти со скоростью 4,8 терабайта в секунду, почти вдвое большую емкость и в 2,4 раза большую пропускную способность по сравнению со своим предшественником, A100.
Относительно преимуществ для искусственного интеллекта компания заявляет, что HGX H200 удваивает скорость вывода на Llama 2, LLM с 70 млрд параметров по сравнению с H100.
HGX H200 будет работать во всех типах центров обработки данных (локальных, облачных, гибридных облачных и периферийных), а также будет развертываться в Amazon Web Services, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure. Он должен появиться во втором квартале 2024 года.
Другим ключевым продуктом NVIDIA является «суперчип» GH200 Grace Hopper, объединяющий графический процессор HGX H200 и процессор NVIDIA Grace на базе Arm с помощью NVLink-C2C. Он разработан для суперкомпьютеров, чтобы разрешить ученым и исследователям решать самые сложные проблемы мира путем ускорения сложных приложений на основе ИИ искусственного интеллекта и высокопроизводительных вычислений, работающих с терабайтами данных.
GH200 будет использоваться в «40+ суперкомпьютерах с искусственным интеллектом в мировых исследовательских центрах, производителях систем и облачных провайдерах», — заявили в компании, в том числе от Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT и Supermicro. Среди них также суперкомпьютеры Cray EX2500 от HPE, которые будут использовать процессоры GH200, масштабируемые до десятка тысяч узлов Grace Hopper Superchip.
Возможно, самым большим суперкомпьютером Grace Hopper станет JUPITER, расположенный в Германии, который после установки в 2024 году станет «мощнейшей системой искусственного интеллекта в мире». Он использует архитектуру с жидкостным охлаждением «с бустерным модулем, содержащим около 24 000 суперчипов NVIDIA GH200, соединенных с сетевой платформой NVIDIA Quantum-2 InfiniBand», — сообщает NVIDIA.
NVIDIA говорит, что JUPITER поможет осуществить научный прорыв в ряде областей, включая прогнозирование климата и погоды и создание их симуляции с высоким разрешением и интерактивной визуализацией. Его также будут использовать для открытия лекарств, квантовых вычислений и промышленного проектирования.
Новые технологии станут ключевыми для NVIDIA, которая сейчас получает большую часть своих доходов от ИИ и сегментов центров обработки данных. В прошлом квартале компания получила рекордный доход в $10,32 млрд с $13,51 млрд общего дохода, что на 171% больше, чем год назад.
