💳 Термінова новина! Trustee Plus — найкраще рішення для розрахунку криптою 👉

ИИ-чипы компании Groq могут ускорить ChatGPT в 13 раз и делают из Grok Илона Маска посмешище

Компания Groq, занимающаяся разработкой чипов для искусственного интеллекта, и имеющая очень схожую с « саркастическим чатботом » Илона Маска Grok, провела поразительную демонстрацию своего продукта.

Оставить комментарий
ИИ-чипы компании Groq могут ускорить ChatGPT в 13 раз и делают из Grok Илона Маска посмешище

Компания Groq, занимающаяся разработкой чипов для искусственного интеллекта, и имеющая очень схожую с « саркастическим чатботом » Илона Маска Grok, провела поразительную демонстрацию своего продукта.

Почему Грок?

Название Grok происходит от названия научно-фантастической книги Роберта Хайнлайна «Чужаков в чужой стране» 1961 года. Слово означает «понимать глубоко и интуитивно». Именно поэтому так много ши-компаний используют его для описания своих ши-продуктов.

Помимо компании Groq, производящей чипы и чатбота Grok Илона Маска, существует еще ИТ-компания Grok, занимающаяся разработкой продуктов с искусственным интеллектом.

Как отметило издание Gizmodo, две компании, занимающиеся искусственным интеллектом, претендуют на научно-фантастический термин «Грок», но лишь одна из них разгоняет индустрию искусственного интеллекта.

Речь идет о компании Groq, чьи демо стали вирусными, и заставили выглядеть текущие версии ChatGPT, Gemini (и конечно Grok) вялыми и медленными. Groq утверждает, что предоставляет самые «быстрые в мире большие языковые модели», и посторонние тесты показывают, что это утверждение может подтвердиться.

Согласно демонстрационной версии, размещенной на X, Groq за доли секунды выдает сотни слов содержательного ответа со ссылкой на источники. В другой демонстрации основатель и генеральный директор Джонатон Росс разрешил ведущему CNN в прямом эфире вести устный разговор с искусственным интеллектом чат-бота на другом конце света. Хотя ChatGPT, Gemini и другие чат-боты впечатляют, Groq может сделать их молниеносно быстрыми. Достаточно быстры, чтобы иметь практическое применение в реальном мире.

Что делает Groq

Groq создает ИИ-чипы под названием Language Processing Units (LPU), которые могут быть быстрее графических процессоров Nvidia (GPU). Графические процессоры Nvidia считаются отраслевым стандартом для запуска моделей ИИ, но первые результаты показывают, что LPU могут опередить их.

Groq — это не чат-бот, как ChatGPT, Gemini или Grok, а «двигатель выводов» (inference engine). Он помогает чат-ботам работать невероятно быстро, но не заменяет их полностью. На сайте Groq уже можно протестировать разных чат-ботов и увидеть, насколько быстро они работают, используя LPU Groq.

Groq производит 247 токенов в секунду по сравнению с 18 токенами в секунду в Microsoft, согласно результатам постороннего теста от компании Artificial Analysis, опубликованным на прошлой неделе. Это означает, что ChatGPT мог бы работать более чем в 13 раз быстрее, если бы работал на чипах Groq.

Чат-боты с искусственным интеллектом, такие как ChatGPT, Gemini и Grok, могли бы быть более полезными, если бы были быстрее. Одно из текущих ограничений состоит в том, что эти модели не могут успевать за человеческим языком в реальном времени; некоторые задержки создают ощущение роботизации разговора.

Недавно Google подделал демонстрационную версию Gemini, чтобы создать впечатление, что Gemini может вести мультимодальный разговор в реальном времени, хотя это не так. Но с увеличенной скоростью Grok это видео может стать реальностью.

До Groq Росс был соучредителем подразделения AI-чипов Google, производившего самые современные чипы для обучения моделей искусственного интеллекта. По словам Росса, благодаря LPU Groq обходит два узких места LLM, на которых застревают графические и центральные процессоры: плотность вычислений и пропускная способность памяти.

Хотя Groq привлекает много внимания, компании еще нужно доказать, имеют ли его ИИ-чипы такую ​​же масштабируемость, как графические процессоры Nvidia или вычислительные процессоры Google. Чипы ИИ сейчас в центре внимания генерального директора OpenAI Сэма Альтмана, даже рассматривающего возможность собственного производства.

Повышенная скорость чипов Groq может дать толчок развитию мира ИИ, создавая новые возможности для общения с искусственным интеллектом в реальном времени с чат-ботами.

Читайте главные IT-новости страны в нашем Telegram
Читайте главные IT-новости страны в нашем Telegram
По теме
Читайте главные IT-новости страны в нашем Telegram
«Кринжевый бумерский юмор» – CEO OpenAI высмеял чат-бот Илона Маска – Grok. Владелец X (Twitter) в ответ начал оскорблять ChatGPT
«Кринжевый бумерский юмор», — CEO OpenAI высмеял чат-бот Илона Маска — Grok. Владелец X (Twitter) в ответ начал оскорблять ChatGPT
По теме
«Кринжевый бумерский юмор», — CEO OpenAI высмеял чат-бот Илона Маска — Grok. Владелец X (Twitter) в ответ начал оскорблять ChatGPT
Huawei делает ставку на производство чипов для ИИ вместо смартфонов. Это уменьшит производство флагманских Huawei Mate 60
Huawei делает ставку на производство чипов для ИИ вместо смартфонов. Это уменьшит производство флагманских Huawei Mate 60
По теме
Huawei делает ставку на производство чипов для ИИ вместо смартфонов. Это уменьшит производство флагманских Huawei Mate 60
Сэм Альтман ищет $7 триллионов, чтобы изменить мировую индустрию чипов. Эта сумма превышает рыночную стоимость Apple и Microsoft вместе взятых.
Сэм Альтман ищет $7 триллионов, чтобы изменить мировую индустрию чипов. Эта сумма превышает рыночную стоимость Apple и Microsoft вместе взятых.
По теме
Сэм Альтман ищет $7 триллионов, чтобы изменить мировую индустрию чипов. Эта сумма превышает рыночную стоимость Apple и Microsoft вместе взятых.
УЧАСТЬ В АЗАРТНИХ ІГРАХ МОЖЕ ВИКЛИКАТИ ІГРОВУ ЗАЛЕЖНІСТЬ. ДОТРИМУЙТЕСЯ ПРАВИЛ (ПРИНЦИПІВ) ВІДПОВІДАЛЬНОЇ ГРИ.
Ліцензія видана ТОВ "СЛОТС Ю.ЕЙ." на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 15.09.23 (рішення КРАІЛ №245 від 31.08.2023); ТОВ "СЛОТС Ю.ЕЙ." – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 26.04.2021 (рішення КРАІЛ №150 від 12.04.2021); ТОВ «СПЕЙСИКС» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 08.02.2021 (рішення КРАІЛ №34 від 02.02.2021); ТОВ «ГЕЙМДЕВ» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 16.02.2021 (рішення № 47 від 10.02.2021).
Читайте также
Ваш iPad и Macbook под угрозой. Специалисты обнаружили неисправимую уязвимость в чипах Apple
Ваш iPad и Macbook под угрозой. Специалисты обнаружили неисправимую уязвимость в чипах Apple
Ваш iPad и Macbook под угрозой. Специалисты обнаружили неисправимую уязвимость в чипах Apple
Collaba. Искусственный интеллект помог Ивану Дорну найти музыкальные таланты
Collaba. Искусственный интеллект помог Ивану Дорну найти музыкальные таланты
Collaba. Искусственный интеллект помог Ивану Дорну найти музыкальные таланты
Террористический хаос, неравенство и автономные киллеры. 7 главных мыслей тайваньского AI-гуру Кай-Фу Ли о развитии эры искусственного интеллекта
Террористический хаос, неравенство и автономные киллеры. 7 главных мыслей тайваньского AI-гуру Кай-Фу Ли о развитии эры искусственного интеллекта
Террористический хаос, неравенство и автономные киллеры. 7 главных мыслей тайваньского AI-гуру Кай-Фу Ли о развитии эры искусственного интеллекта
В «Киевстар» будут внедрять NLU в IVR и чат боте. Для направления уже ищут PM
В «Киевстар» будут внедрять NLU в IVR и чат боте. Для направления уже ищут PM
В «Киевстар» будут внедрять NLU в IVR и чат боте. Для направления уже ищут PM

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментариев пока нет.