Google презентувала новий чип для прискорення роботи АІ-додатків Ironwood. У чому його особливість
Google представила новий чип сьомого покоління під назвою Ironwood, призначений для прискорення роботи додатків на основі штучного інтелекту.
Google представила новий чип сьомого покоління під назвою Ironwood, призначений для прискорення роботи додатків на основі штучного інтелекту.
Google представила новий чип сьомого покоління під назвою Ironwood, призначений для прискорення роботи додатків на основі штучного інтелекту.
Процесор Ironwood орієнтований на обробку даних, необхідних для запитів користувачів до таких програм, як ChatGPT від OpenAI. Чипи виконують швидкі обчислення для надання відповідей у чат-боті або генерування інших типів відповідей.
Багатомільярдні зусилля пошукового гіганта, що тривають близько десяти років, являють собою одну з небагатьох життєздатних альтернативних мікросхем Nvidia (NVDA.O), що відкриває нову вкладку потужних процесорів штучного інтелекту.
Тензорні процесори Google (TPU), якими можуть користуватися лише інженери компанії або через хмарний сервіс, надали компанії перевагу в розробці штучного інтелекту над деякими конкурентами.
Google розділила своє сімейство чипів TPU на версію, пристосовану для побудови великих моделей ШІ з нуля. Інженери компанії створили другу лінійку мікросхем, яка позбавляє деякі функції побудови моделей на користь мікросхеми, яка скорочує витрати на запуск додатків з ШІ.
За словами Аміна Вахдата, віцепрезидента Google, чип Ironwood — Це вже сьоме покоління TPU (Tensor Processing Unit) від компанії, і він перший, оптимізований для інферентних ШІ-моделей. Чип буде доступний для клієнтів Google Cloud цього року у двох конфігураціях: кластер з 256 чипів та кластер з 9216 чипів.
Ironwood забезпечує потужність до 4614 TFLOPs, має 192 ГБ виділеної пам’яті ОЗП із пропускною здатністю до 7,4 Тбіт/c. Він також включає вдосконалене спеціалізоване ядро SparseCore, яке розроблене для обробки специфічних даних. Архітектура чипа спрямована на мінімізацію руху даних і затримок на чипі, що допомагає знижувати енергоспоживання.
Ironwood стане важливою частиною стратегії Google щодо інтегрування ШІ у свої сервіси. Чип буде інтегрований з AI Hypercomputer — модульним кластером обчислювальних ресурсів у Google Cloud, що дозволить ще ефективніше обробляти великі обсяги даних для ШІ.
Новий чип об'єднує функції з попередніх розрізнених конструкцій і збільшує обсяг доступної пам’яті, що робить його більш придатним для обслуговування додатків ШІ.
«Просто відносна важливість виведення значно зростає», — сказав Вахдат.
За словами Вахдата, чипи Ironwood можуть похвалитися вдвічі більшою продуктивністю при споживанні меншої кількості енергії порівняно з чипом Trillium від Google, який компанія анонсувала минулого року. Компанія будує і розгортає свої моделі Gemini AI на власних чипах.
Google підкреслює, що Ironwood є найбільш потужним і енергоефективним TPU на сьогодні, і його архітектура дозволяє ефективно запускати інферентні ШІ-моделі.
Компанія не розголошує, який саме виробник чипів виробляє дизайн Google.


