У грудні Amazon представить власні чіпи для ШІ, щоб зменшити залежність від Nvidia
Amazon готова випустити свої новітні чіпи штучного інтелекту — розробку стартапу Annapurna Labs, який компанія придбала ще у 2015 році.
Amazon готова випустити свої новітні чіпи штучного інтелекту — розробку стартапу Annapurna Labs, який компанія придбала ще у 2015 році.
Trainium 2 — це частини лінійки чіпів ШІ, призначених для навчання найбільших моделей. Їх представлять у грудні 2024 року.
Чіпи вже тестує Anthropic — конкурент OpenAI, який заручився підтримкою Amazon у $4 млрд, а також Databricks, Deutsche Telekom та японські Ricoh і Stockmark, пише Ars Technica.
Мета нової розробки — протистояти світовому лідеру ринку Nvidia.
Amazon також заявив, що Inferentia, ще одна з лінійок спеціалізованих чіпів ШІ, вже на 40% дешевша для генерування відповідей від ШІ-моделей.
«Ціна [хмарних обчислень], як правило, набагато вища, коли мова йде про машинне навчання та штучний інтелект, — Дейв Браун, віцепрезидент з обчислювальних і мережевих послуг AWS. — Коли ви економите 40% від $1000, це не впливає на ваш вибір. Але коли ви економите 40% на десятках мільйонів доларів, це впливає».
Для інфраструктури штучного інтелекту Amazon це означає створення всього з нуля, від силіконової пластини до серверних стійок, у які вони вставляються, і все це на основі власного програмного забезпечення та архітектури Amazon. «Дійсно важко робити те, що ми робимо в масштабі. Не надто багато компаній можуть», — сказав Рамі Сінно, директор з розробки Annapurna.