🚀 Trustee Plus - ваш криптогаманець з вбудованою платіжною карткою тут 👉

ШІ-чипи компанії Groq можуть прискорити ChatGPT в 13 разів і роблять з Grok Ілона Маска посміховисько

Компанія Groq, яка займається розробкою чипів для штучного інтелекту, і має дуже схожу з «саркастичним чатботом» Ілона Маска Grok, провела вражаючу демонстрацію свого продукту. 

Залишити коментар
ШІ-чипи компанії Groq можуть прискорити ChatGPT в 13 разів і роблять з Grok Ілона Маска посміховисько

Компанія Groq, яка займається розробкою чипів для штучного інтелекту, і має дуже схожу з «саркастичним чатботом» Ілона Маска Grok, провела вражаючу демонстрацію свого продукту. 

Чому Грок?

Назва Grok походить від назви науково-фантастичної книги Роберта Хайнлайна «Чужинець у чужій країні» 1961 року. Слово означає «розуміти глибоко та інтуїтивно». Саме тому так багато ШІ-компаній використовують його для опису своїх ШІ-продуктів.

Крім компанії Groq, яка виробляє чіпи й чатбота Grok Ілона Маска, існує ще ІТ-компанія Grok, що займається розробкою продуктів зі штучним інтелектом.

Як зауважило видання Gizmodo, наразі дві компанії, що займаються штучним інтелектом, претендують на науково-фантастичний термін «Грок», але лише одна з них розганяє індустрію штучного інтелекту.

Мова йде про компанію Groq, чиї демо стали вірусними, і змусили виглядати  поточні версії ChatGPT, Gemini (і звісно Grok) млявими й повільними. Groq стверджує, що надає «найшвидші у світі великі мовні моделі», і сторонні тести показують, що це твердження може підтвердитися.

Згідно з демонстраційною версією, розміщеною на X, Groq за долі секунди видає сотні слів змістовної відповіді з посиланням на джерела. В іншій демонстрації засновник і генеральний директор Джонатон Росс дозволив ведучому CNN в прямому ефірі вести усну розмову зі штучним інтелектом чат-бота на іншому кінці світу. Хоча ChatGPT, Gemini та інші чат-боти вражають, Groq може зробити їх блискавично швидкими. Достатньо швидкими, щоб мати практичне застосування в реальному світі.

Що робить Groq

Groq створює ШІ-чіпи під назвою Language Processing Units (LPU), які можуть бути швидшими за графічні процесори Nvidia (GPU). Графічні процесори Nvidia, вважаються галузевим стандартом для запуску моделей ШІ, але перші результати показують, що LPU можуть випередити їх.

Groq — це не чат-бот, як ChatGPT, Gemini або Grok, а «двигун висновків» (inference engine). Він допомагає чат-ботам працювати неймовірно швидко, але не замінює їх повністю. На сайті Groq вже можна протестувати різних чат-ботів і побачити, наскільки швидко вони працюють, використовуючи LPU Groq.

Groq виробляє 247 токенів на секунду порівняно з 18 токенами на секунду у Microsoft, згідно з результатами стороннього тесту від компанії Artificial Analysis, опублікованими минулого тижня. Це означає, що ChatGPT міг би працювати більш ніж у 13 разів швидше, якби працював на чіпах Groq.

Чат-боти зі штучним інтелектом, такі як ChatGPT, Gemini та Grok, могли б бути значно кориснішими, якби були швидшими. Одне з поточних обмежень полягає в тому, що ці моделі не можуть встигати за людською мовою в реальному часі; деякі затримки створюють відчуття роботизації розмови.

Нещодавно Google підробив демонстраційну версію Gemini, щоб створити враження, ніби Gemini може вести мультимодальну розмову в реальному часі, хоча це не так. Але зі збільшеною швидкістю Grok це відео може стати реальністю.

До Groq Росс був співзасновником підрозділу AI-чіпів Google, який виробляв найсучасніші чіпи для навчання моделей штучного інтелекту. За словами Росса, завдяки LPU Groq обходить два вузьких місця LLM, на яких застряють графічні та центральні процесори: щільність обчислень та пропускна здатність пам’яті.

Хоча Groq привертає багато уваги, компанії ще треба довести, чи мають його ШІ-чіпи таку ж масштабованість, як графічні процесори Nvidia або обчислювальні процесори Google. Чіпи ШІ зараз в центрі уваги генерального директора OpenAI Сема Альтмана, який навіть розглядає можливість власного виробництва.

Підвищена швидкість чіпів Groq може дати поштовх розвитку світу ШІ, створюючи нові можливості для спілкування зі штучним інтелектом у реальному часі з чат-ботами.

Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
«Крінжовий бумерський гумор» — CEO OpenAI висміяв чат-бот Ілона Маска — Grok. Власник X (Twitter) у відповідь почав ображати ChatGPT
«Крінжовий бумерський гумор», — CEO OpenAI висміяв чат-бот Ілона Маска — Grok. Власник X (Twitter) у відповідь почав ображати ChatGPT
По темi
«Крінжовий бумерський гумор», — CEO OpenAI висміяв чат-бот Ілона Маска — Grok. Власник X (Twitter) у відповідь почав ображати ChatGPT
Huawei робить ставку на виробництво чіпів для ШІ замість смартфонів. Це зменшить виробництво флагманських Huawei Mate 60
Huawei робить ставку на виробництво чіпів для ШІ замість смартфонів. Це зменшить виробництво флагманських Huawei Mate 60
По темi
Huawei робить ставку на виробництво чіпів для ШІ замість смартфонів. Це зменшить виробництво флагманських Huawei Mate 60
Сем Альтман шукає $7 трильйонів щоб змінити світову індустрію чипів. Ця сума перевищує ринкову вартість Apple та Microsoft разом узятих
Сем Альтман шукає $7 трильйонів, щоб змінити світову індустрію чипів. Ця сума перевищує ринкову вартість Apple та Microsoft разом узятих
По темi
Сем Альтман шукає $7 трильйонів, щоб змінити світову індустрію чипів. Ця сума перевищує ринкову вартість Apple та Microsoft разом узятих
УЧАСТЬ В АЗАРТНИХ ІГРАХ МОЖЕ ВИКЛИКАТИ ІГРОВУ ЗАЛЕЖНІСТЬ. ДОТРИМУЙТЕСЯ ПРАВИЛ (ПРИНЦИПІВ) ВІДПОВІДАЛЬНОЇ ГРИ.
Ліцензія видана ТОВ "СЛОТС Ю.ЕЙ." на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 15.09.23 (рішення КРАІЛ №245 від 31.08.2023); ТОВ "СЛОТС Ю.ЕЙ." – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 26.04.2021 (рішення КРАІЛ №150 від 12.04.2021); ТОВ «СПЕЙСИКС» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 08.02.2021 (рішення КРАІЛ №34 від 02.02.2021); ТОВ «ГЕЙМДЕВ» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 16.02.2021 (рішення № 47 від 10.02.2021).
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті. 

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.