NVIDIA начала свою ежегодную конференцию для разработчиков в сфере ИИ GTC 2024, которая проходит в Сан-Хосе, Калифорния, в течение 18–21 марта.
NVIDIA начала свою ежегодную конференцию для разработчиков в сфере ИИ GTC 2024, которая проходит в Сан-Хосе, Калифорния, в течение 18–21 марта.
Чипы Blackwell названы в честь Дэвида Гарольда Блэквелла, математика, специализирующегося на теории игр и статистике, пишет Engadget. Они до 30 раз быстрее H100 и потребляют в 25 раз меньше энергии.
Blackwell предлагает компаниям, занимающимся разработкой искусственного интеллекта, значительный прирост производительности — 20 петафлопс по сравнению с 4 петафлопсами, которые снабжал H100. Значительная часть этой скорости стала возможной благодаря 208 млрд. транзисторов в чипах Blackwell по сравнению с 80 млрд. в H100. Чтобы добиться этого, NVIDIA соединила две большие кристаллические матрицы, которые могут обмениваться данными со скоростью до 10 терабайтов в секунду.
NVIDIA не раскрывает, сколько будут стоить чипы Blackwell. H100 можно приобрести от $25 000 до $40 000 за чип, по данным CNBC, а целые системы, работающие на этих чипах, могут стоить до $200 000.
NVIDIA представила проект GR00T, универсальную базовую модель для человекообразных роботов, разработанную для дальнейшей работы, направленной на прорыв в робототехнике и воплощении ИИ, сообщает компания у себя на сайте.
Роботы на базе GR00T, которая расшифровывается как Generalist Robot 00 Technology, будут спроектированы таким образом, чтобы понимать естественный язык и имитировать движения, наблюдая за действиями человека — быстро обучаясь координации, ловкости и другим навыкам для того, чтобы ориентироваться, адаптироваться и взаимодействовать с реальным миром.
GR00T также будет поддерживать новое оборудование от Nvidia — Jetson Thor — новый компьютер, разработанный специально для запуска рабочих процессов симуляции, генерации моделей искусственного интеллекта и многое другое для роботов-гуманоидов.
Nvidia представила программную платформу NIM для оперативного развертывания AI-моделей, предназначенную для оптимизации развертывания пользовательских и обученных моделей искусственного интеллекта в производственных средах.
Обычно разработчикам нужны недели, а то и месяцы, чтобы доставить подобные контейнеры, утверждает Nvidia — и это при условии, что у компании вообще есть специалисты по искусственному интеллекту. Целью NIM Nvidia является создание экосистемы готовых к ИИ контейнеров, использующих ее аппаратное обеспечение как базовый уровень, а эти микросервисы — как основной программный уровень для компаний, желающих ускорить реализацию своей дорожной карты ИИ, пишет Techcrunch.
Сейчас NIM включает в себя поддержку моделей NVIDIA, A121, Adept, Cohere, Getty Images и Shutterstock, а также открытых моделей Google, Hugging Face, Meta, Microsoft, Mistral AI и Stability AI. Nvidia уже работает с Amazon, Google и Microsoft, чтобы сделать микросервисы NIM доступными в SageMaker, Kubernetes Engine и Azure AI. Они также будут интегрированы в такие платформы как Deepset, LangChain и LlamaIndex.
«Мы считаем, что графический процессор Nvidia — лучшее место для моделей и что NVIDIA NIM — лучший пакет программного обеспечения, лучшая среда разработки, чтобы авторы могли сосредоточиться на разработке корпоративных приложений. Просто позвольте Nvidia выполнить работу по созданию этих моделей наиболее эффективным образом», — сказал Манувир Дас, руководитель отдела корпоративных вычислений в Nvidia.
