Співзасновник та керівник OpenAI Сем Альтман розповів, що компанія була за крок від повної відмови від традиційної системи оплати за токени для своєї наступної ШІ-моделі. Замість цього планувалося запровадити фіксовану плату за конкретно виконане завдання. Однак після вкрай негативної реакції розробників від цієї ідеї довелося відмовитися.
Співзасновник та керівник OpenAI Сем Альтман розповів, що компанія була за крок від повної відмови від традиційної системи оплати за токени для своєї наступної ШІ-моделі. Замість цього планувалося запровадити фіксовану плату за конкретно виконане завдання. Однак після вкрай негативної реакції розробників від цієї ідеї довелося відмовитися.
Під час подкасту Cheeky Pint із президентом Stripe Джоном Коллісоном Альтман зізнався, що OpenAI «майже ухвалила дуже хибне рішення». Концепція полягала в тому, що розробник надсилає запит, а система одразу видає підсумкову ціну за його виконання, пише The New Stack.
За словами Альтмана, модель виставлення рахунків мала працювати за аналогією з хмарними сервісами AWS: «Ви просто щось робите, а ми надсилаємо вам рахунок», без покрокового підрахунку вхідних та вихідних токенів. Керівник OpenAI не уточнив, про яку саме модель йшлося та коли саме розглядалися ці зміни.
Коли OpenAI спробувала протестувати цю концепцію з клієнтами, то зіткнулася з жорстким спротивом. Головна претензія розробників полягала у повній відсутності прозорості: «Я повинен розуміти, за що саме плачу».
Сьогодні девелопери витрачають чимало ресурсів на відстеження токенів, щоб прогнозувати витрати при масштабуванні проєктів. Отримання непрозорого цінника без розуміння того, як він був розрахований, суттєво ускладнило б бюджетування.
Альтман зазначив, що опитанні ним розробники висловили готовність навіть платити більше, аби лише зберегти зрозумілу метрику: «Вони відповіли, що краще хай ціна за токени буде вищою і вони переплатять, але розумітимуть: за цим стоїть реальна, вимірювана одиниця».
На думку очільника OpenAI, бізнес побоюється непрозорого ціноутворення, оскільки підозрює, що в довгостроковій перспективі це призведе до прихованого подорожчання.
Особливо критичною ця проблема є для творців ШІ-агентів, чиї багатокрокові сценарії та автономні завдання і без того потребують обсягів обчислень, які важко спрогнозувати.
Обговорення виникло після того, як Джон Коллісон запитав, чи є токени влучною метрикою для оцінки використання ШІ. Альтман погодився з недоліками поточної системи, хоча й визнав, що кращої альтернативи поки немає.
«Токени — це свого роду штучна одиниця. Тобто в певному сенсі вони реальні, але це не найкраща метрика», — заявив Альтман. Всі спроби вигадати нові еквіваленти він порівняв із тим, як виробники мікросхем продовжують вказувати нанометри, які вже не відповідають фізичним розмірам транзисторів.
Альтман також визнав, що розробники витрачають забагато зусиль, обираючи між дешевшою та потужнішою моделлю або намагаючись вгадати необхідний рівень міркування для завдання.
Попри всі недоліки токенної системи та щорічне здешевлення обчислювальної потужності ШІ приблизно вдесятеро, OpenAI залишає токени основною валютою розрахунків, оскільки ринок виявився не готовим до непрозорих альтернатив.
