OpenAI запускає Flex Processing, новий режим роботи свого API, який зменшує вартість використання ШІ-моделей в обмін на можливі затримки відповідей і періодичну недоступність сервісу.
OpenAI запускає Flex Processing, новий режим роботи свого API, який зменшує вартість використання ШІ-моделей в обмін на можливі затримки відповідей і періодичну недоступність сервісу.
Нова опція доступна в бета-версії для нещодавно випущених моделей міркувань OpenAI o3 і o4-mini. Flex Processing спрямована на менш пріоритетні та «невиробничі» завдання, такі як оцінка моделей, збагачення даних і асинхронні робочі навантаження — тобто там, де швидкість не критична, пише TechCrunch.
Flex Processing зменшує витрати на API рівно вдвічі. Для o3 обробка Flex коштує $5 за мільйон вхідних токенів (~750 000 слів) і $20 за мільйон вихідних токенів, порівняно зі стандартними $10 за мільйон вхідних токенів і $40 за мільйон вихідних токенів. Для o4-mini Flex знижує ціну до $0,55 за мільйон вхідних токенів і $2,20 за мільйон вихідних токенів з $1,10 за мільйон вхідних токенів і $4,40 за мільйон вихідних токенів.
В електронному листі клієнтам про нову опцію, OpenAI також зазначила, що розробники 1–3 рівнів ієрархії рівнів використання повинні будуть пройти нещодавно запроваджену процедуру перевірки ідентифікаційних даних, щоб отримати доступ до o3. Рівні визначаються кількістю грошей, витрачених на послуги OpenAI. Підсумки міркувань o3 та інших моделей, а також підтримка потокового API також закриті за верифікацією.
Раніше OpenAI заявляв, що ID-перевірка призначена для того, щоб зловмисники не порушували політику використання.
