Витрати на автономних ШІ-агентів зростуть уп'ятеро до 2028 року: попередження Gartner
Здешевлення токенів не врятує ситуацію, коли складні робочі процеси споживають їх у рази більше, застерігає аналітична компанія Gartner.
Здешевлення токенів не врятує ситуацію, коли складні робочі процеси споживають їх у рази більше, застерігає аналітична компанія Gartner.
Згідно з прогнозом Gartner, до кінця 2028 року витрати на робочі процеси з використанням автономного ШІ (Agentic AI) зростуть більш ніж у п’ять разів через перехід користувачів до складніших сценаріїв застосування цієї технології, пише The Register.
Поки Nvidia та інші технологічні гіганти просувають інференс та ШІ-агентів як наступний етап хвилі штучного інтелекту, Gartner попереджає: вартість упровадження таких систем зростатиме навіть за умов здешевлення базових моделей.
Аналітики дослідили молодий ринок ШІ-агентів — систем, здатних діяти автономно для досягнення поставленої мети — і бачать попереду чимало викликів.
Якщо навіть залишити поза увагою суттєві ризики для безпеки, такі програмні агенти значно складніші за звичайних чат-ботів.
У Gartner переконані, що падіння цін на моделі спонукає будувати заплутаніші робочі процеси. Проте підвищене споживання токенів у таких процесах перекриває економію від низьких тарифів і веде до зростання загальних витрат на інференс.
Іншими словами, токени стають вигіднішими за ціною, але ця економія не встигає за подорожчанням просунутих ШІ-можливостей. Темпи інновацій випереджають криву зниження витрат.
«Сувора економіка „парадоксу інференсу“ чітко проявляється у різниці між простим чат-ботом і ШІ-агентом. Якщо простий чат-бот має лише прочитати й витлумачити запит та швидко видати ймовірно правильну відповідь, то ШІ-агент змушений постійно міркувати, вести переговори та піддавати власні кроки сумніву,» — зазначає старший директор-аналітик Gartner Вілл Соммер.
Усі ці процеси накопичуються: перенаправлення завдання до агентної моделі міркування збільшує витрати на інференс щонайменше вп’ятеро, а з ускладненням завдання — ще більше.
Для окупності таких інструментів потрібна або значно більша віддача, ніж від базових моделей, або краща оптимізація інференсу, маршрутизації та оркестрації. Це передбачає призначення кожного завдання найбільш оптимальній за ціною та можливостями моделі.
Перехід деяких провайдерів від фіксованої передплати до оплати за фактичне використання лише ускладнив ситуацію. Сценарії з високим споживанням токенів за такої моделі призводять до неконтрольованого зростання чека.
Не дивно, що раніше цього року Gartner спрогнозувала: близько 40% організацій згорнуть або знімуть з експлуатації своїх ШІ-агентів через проблеми з цією розпиареною технологією.
Нагадаємо, що у червні Gartner спрогнозувала, що вже до 2028 року інструменти для ШІ-кодингу можуть коштувати більше, ніж середня зарплата розробника.
Перевитрати на 860% від початкового бюджету. Amazon втрачає мільйони доларів через відсутність контролю за витратами на ШІ
Перевитрати на 860% від початкового бюджету. Amazon втрачає мільйони доларів через відсутність контролю за витратами на ШІ
Стартап випадково витратив $30 000 на ШІ-токени за місяць
Стартап випадково витратив $30 000 на ШІ-токени за місяць
Український айтівець створив CLI-інструмент, який спрощує фронтенд-розробку з ШІ та економить токени
Український айтівець створив CLI-інструмент, який спрощує фронтенд-розробку з ШІ та економить токени
Claude виглядає значно «ненажерливішим» до токенів, ніж GPT-5.x від OpenAI — дослідження
Claude виглядає значно «ненажерливішим» до токенів, ніж GPT-5.x від OpenAI — дослідження
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
