На конференції Supercomputing 2023 цього тижня Nvidia оголосила про вихід нового суперчіпа для завдань штучного інтелекту та найпотужнішого графічного процесора. Ця технологія являє собою значний стрибок у порівнянні з останнім поколінням і використовуватиметься в центрах обробки даних і суперкомп’ютерах.
На конференції Supercomputing 2023 цього тижня Nvidia оголосила про вихід нового суперчіпа для завдань штучного інтелекту та найпотужнішого графічного процесора. Ця технологія являє собою значний стрибок у порівнянні з останнім поколінням і використовуватиметься в центрах обробки даних і суперкомп’ютерах.
Ключовим продуктом є графічний процесор HGX H200 на основі архітектури Hopper від NVIDIA, заміна популярного графічного процесора H100, пише Engadget.
Вперше використовує пам’ять HBM3e, яка є швидшою та має більшу місткість, тому краще підходить для великих мовних моделей.
Забезпечує 141 ГБ пам’яті зі швидкістю 4,8 терабайта на секунду, майже вдвічі більшу місткість і у 2,4 раза більшу пропускну здатність у порівнянні зі своїм попередником, A100.
Щодо переваг для штучного інтелекту, компанія заявляє, що HGX H200 подвоює швидкість виведення на Llama 2, LLM із 70 млрд параметрів, порівняно з H100.
HGX H200 працюватиме в усіх типах центрів обробки даних (локальних, хмарних, гібридних хмарних і периферійних), а також розгортатиметься в Amazon Web Services, Google Cloud, Microsoft Azure та Oracle Cloud Infrastructure тощо. Він має з’явитися у другому кварталі 2024 року.
Іншим ключовим продуктом NVIDIA є «суперчіп» GH200 Grace Hopper, який об’єднує графічний процесор HGX H200 і процесор NVIDIA Grace на базі Arm за допомогою NVLink-C2C. Він розроблений для суперкомп’ютерів, щоб дозволити вченим і дослідникам розв’язувати найскладніші проблеми світу шляхом прискорення складних застосунків на основі ШІ штучного інтелекту та високопродуктивні обчислення, які працюють з терабайтами даних.
GH200 буде використовуватися в «40+ суперкомп’ютерах зі штучним інтелектом у світових дослідницьких центрах, виробниках систем і хмарних провайдерах», — заявили в компанії, в тому числі від Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT і Supermicro. Серед них також суперкомп’ютери Cray EX2500 від HPE, які використовуватимуть процесори GH200, масштабовані до десятків тисяч вузлів Grace Hopper Superchip.
Можливо, найбільшим суперкомп’ютером Grace Hopper стане JUPITER, розташований в Німеччині, який після встановлення у 2024 році стане «найпотужнішою системою штучного інтелекту у світі». Він використовує архітектуру з рідинним охолодженням «з бустерним модулем, що містить близько до 24 000 суперчіпів NVIDIA GH200, з’єднаних із мережевою платформою NVIDIA Quantum-2 InfiniBand», — повідомляє NVIDIA.
NVIDIA каже, що JUPITER допоможе здійснити науковий прорив у ряді областей, включно з прогнозуванням клімату та погоди та створення їхньої симуляції з високою роздільною здатністю та інтерактивною візуалізацією. Його також використовуватимуть для відкриття ліків, квантових обчислень і промислового проєктування.
Нові технології стануть ключовими для NVIDIA, яка зараз отримує більшу частину своїх доходів від ШІ та сегментів центрів обробки даних. Минулого кварталу компанія отримала рекордний дохід у $10,32 млрд з $13,51 млрд загального доходу, що на 171% більше, ніж рік тому.
