💳 Trustee Plus: розраховуйся криптою за допомогою платіжної картки. Ліміт: 50 000 євро 🚀

Nvidia представила H200 — самый быстрый в мире ускоритель вычислений для самых мощных ИИ

На конференции Supercomputing 2023 на этой неделе Nvidia анонсировала выход нового суперчипа для задач искусственного интеллекта и самого мощного графического процессора. Эта технология представляет собой значительный скачок по сравнению с последним поколением и будет использоваться в центрах обработки данных и суперкомпьютерах.

Оставить комментарий
Nvidia представила H200 — самый быстрый в мире ускоритель вычислений для самых мощных ИИ

На конференции Supercomputing 2023 на этой неделе Nvidia анонсировала выход нового суперчипа для задач искусственного интеллекта и самого мощного графического процессора. Эта технология представляет собой значительный скачок по сравнению с последним поколением и будет использоваться в центрах обработки данных и суперкомпьютерах.

Графический процессор HGX H200

Ключевым продуктом является графический процессор HGX H200 на основе архитектуры Hopper от NVIDIA, замена популярного графического процессора H100, пишет Engadget.

Впервые использует HBM3e память, которая является более быстрой и имеет большую емкость, поэтому лучше подходит для больших языковых моделей.

Обеспечивает 141 ГБ памяти со скоростью 4,8 терабайта в секунду, почти вдвое большую емкость и в 2,4 раза большую пропускную способность по сравнению со своим предшественником, A100.

Источник: Engadget

Относительно преимуществ для искусственного интеллекта компания заявляет, что HGX H200 удваивает скорость вывода на Llama 2, LLM с 70 млрд параметров по сравнению с H100.

HGX H200 будет работать во всех типах центров обработки данных (локальных, облачных, гибридных облачных и периферийных), а также будет развертываться в Amazon Web Services, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure. Он должен появиться во втором квартале 2024 года.

Суперчип GH200 Grace Hopper

Другим ключевым продуктом NVIDIA является «суперчип» GH200 Grace Hopper, объединяющий графический процессор HGX H200 и процессор NVIDIA Grace на базе Arm с помощью NVLink-C2C. Он разработан для суперкомпьютеров, чтобы разрешить ученым и исследователям решать самые сложные проблемы мира путем ускорения сложных приложений на основе ИИ искусственного интеллекта и высокопроизводительных вычислений, работающих с терабайтами данных.

GH200 будет использоваться в «40+ суперкомпьютерах с искусственным интеллектом в мировых исследовательских центрах, производителях систем и облачных провайдерах», — заявили в компании, в том числе от Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT и Supermicro. Среди них также суперкомпьютеры Cray EX2500 от HPE, которые будут использовать процессоры GH200, масштабируемые до десятка тысяч узлов Grace Hopper Superchip.

Источник: Engadget

Возможно, самым большим суперкомпьютером Grace Hopper станет JUPITER, расположенный в Германии, который после установки в 2024 году станет «мощнейшей системой искусственного интеллекта в мире». Он использует архитектуру с жидкостным охлаждением «с бустерным модулем, содержащим около 24 000 суперчипов NVIDIA GH200, соединенных с сетевой платформой NVIDIA Quantum-2 InfiniBand», — сообщает NVIDIA.

NVIDIA говорит, что JUPITER поможет осуществить научный прорыв в ряде областей, включая прогнозирование климата и погоды и создание их симуляции с высоким разрешением и интерактивной визуализацией. Его также будут использовать для открытия лекарств, квантовых вычислений и промышленного проектирования.

Новые технологии станут ключевыми для NVIDIA, которая сейчас получает большую часть своих доходов от ИИ и сегментов центров обработки данных. В прошлом квартале компания получила рекордный доход в $10,32 млрд с $13,51 млрд общего дохода, что на 171% больше, чем год назад.

Читайте главные IT-новости страны в нашем Telegram
Читайте главные IT-новости страны в нашем Telegram
По теме
Читайте главные IT-новости страны в нашем Telegram
Qualcomm анонсировала процессоры Snapdragon X для PC. Они будут конкурировать с M-серией чипов от Apple
Qualcomm анонсировала процессоры Snapdragon X для PC. Они будут конкурировать с M-серией чипов от Apple
По теме
Qualcomm анонсировала процессоры Snapdragon X для PC. Они будут конкурировать с M-серией чипов от Apple
Серьезная уязвимость формата WebP затрагивает Chrome Firefox Edge Telegram Signal и многие другие. Компании начали выпускать патчи устраняющие угрозу
Серьезная уязвимость формата WebP затрагивает Chrome, Firefox Edge, Telegram, Signal и многие другие. Компании начали выпускать патчи, устраняющие угрозу
По теме
Серьезная уязвимость формата WebP затрагивает Chrome, Firefox Edge, Telegram, Signal и многие другие. Компании начали выпускать патчи, устраняющие угрозу

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментариев пока нет.