xAI показала нові кадри суперкомп’ютерного кластера Colossus 2 у Мемфісі. Саме на ньому компанія Ілона Маска планує масштабувати навчання Grok, а в публікаціях про проєкт його вже називають Macrohard.
xAI показала нові кадри суперкомп’ютерного кластера Colossus 2 у Мемфісі. Саме на ньому компанія Ілона Маска планує масштабувати навчання Grok, а в публікаціях про проєкт його вже називають Macrohard.
Про це пише Kurazh. У матеріалі йдеться, що перша фаза кластера вже налічує понад 330 000 графічних процесорів. Видання також стверджує, що система здатна видавати до 4,4 трильйона операцій на секунду, а її енергоспоживання перевищує 1 ГВт.
Щоб утримувати таку інфраструктуру в роботі, у Colossus 2 застосували рідинне охолодження. Окремо xAI, за даними публікації, додала 558 Tesla Megapacks із сумарною місткістю 2,3 ГВт·год. Інвестиції лише в цей енергетичний контур оцінюють більш як у $545 млн. Такий запас потрібен, щоб датацентр міг без збоїв витримувати пікові навантаження під час навчання великих моделей.
Окрему увагу привернула назва Macrohard. У матеріалі її подають як іронічний випад у бік Microsoft, яка є головним партнером OpenAI. У цьому контексті xAI намагається показати не просто черговий датацентр, а власну інфраструктурну відповідь конкурентам, які розвивають ChatGPT та інші великі моделі на хмарних платформах Microsoft.
На досягнутому xAI не зупиняється. У межах другої фази, яку в публікаціях назвали Macroharder, компанія нібито планує додати ще 220 000 Nvidia GB300. Тобто йдеться не лише про розширення потужностей, а й про ставку на новішу архітектуру, яка має пришвидшити тренування моделей і зміцнити позиції Grok у конкуренції з ChatGPT і Gemini.
Історія з Colossus 2 важлива тому, що гонитва в ШІ дедалі більше перетворюється на змагання не лише моделей, а й датацентрів. Чим більше в компанії обчислень, стабільного живлення й систем охолодження, тим швидше вона може навчати нові версії моделей і масштабувати сервіси. Саме в це xAI зараз і вкладає сотні мільйонів доларів.
Раніше dev.ua писав про те, як Ілон Маск запустив першу фазу суперкомп’ютера Colossus від xAI — кластер штучного інтелекту Memphis Supercluster під'єднано до енергомережі, і тепер він споживає до 300 МВт, як мегаполіс.
