OpenAI представила Performance Factory — систему оптимізації ПЗ на базі Codex, яка підтримує високу швидкість роботи ChatGPT
Компанія OpenAI розробила внутрішню систему штучного інтелекту на базі Codex під назвою Performance Factory, яка автоматично виявляє причини уповільнення роботи ChatGPT після оновлень коду та пропонує виправлення. За даними інженерного звіту, лише за три місяці система провела понад 1 700 розслідувань (у середньому 17 на день) і встановила першопричину у більш ніж 600 випадках.
Компанія OpenAI розробила внутрішню систему штучного інтелекту на базі Codex під назвою Performance Factory, яка автоматично виявляє причини уповільнення роботи ChatGPT після оновлень коду та пропонує виправлення. За даними інженерного звіту, лише за три місяці система провела понад 1 700 розслідувань (у середньому 17 на день) і встановила першопричину у більш ніж 600 випадках.
Навіщо потрібна система
Коли ШІ-агенти дедалі активніше пишуть і змінюють код, ручна перевірка продуктивності стає вузьким місцем розробки, пише VentureBeat. Раніше інженерам OpenAI доводилося вручну аналізувати логи, трейси та зміни в коді, використовуючи понад 30 спеціалізованих інструментів. Щоб автоматизувати цей процес, команда спершу створила для Codex навичку perf-forensics, а згодом побудувала повноцінну систему завдань, яка самостійно реагує на сповіщення моніторингу.
Як влаштована Performance Factory
Архітектура системи складається з чотирьох ключових елементів.
Сервіс завдань: зберігає прогрес кожного інциденту, метадані та стислі висновки агентів. Замість пересилання величезних масивів сирих даних агенти записують ключові метрики та запити, щоб наступний агент міг за потреби відтворити перевірку.
Цикл диспетчеризації: періодично перевіряє завдання та запускає сесії Codex для переходу на наступний етап.
Внутрішній API для хмарного Codex: надає агентам контрольований доступ до репозиторіїв коду та систем спостереження.
Підписки: зв’язують завдання із зовнішніми подіями — наприклад, ставлять процес на паузу, доки інженер не перевірить pull request на GitHub.
«Змагальна перевірка» та реальні результати
Під час роботи команда виявила, що агенти інколи зупинялися на першому-ліпшому правдоподібному поясненні збою. Щоб уникнути помилок, OpenAI запровадила adversarial review («змагальну перевірку»): окрема сесія Codex із «чистим» контекстом отримує завдання спростувати діагноз попереднього агента, знайти прогалини в доказах і перевірити альтернативні гіпотези. Нині такий рев’ювер повертає на доопрацювання близько 25% висновків. Аналогічну перевірку додали й для запропонованих виправлень коду.
Статистика показує, що система вже суттєво економить час на діагностиці, хоча генерація готового коду все ще потребує доопрацювання:
із понад 600 розслідувань зі встановленою причиною близько 400 дійшли до етапу пропозиції виправлення;
приблизно 50 фінальних змін у продакшені спиралися на підказки ШІ;
близько 15 виправлень були влиті у код безпосередньо з pull request, створених Codex.
Найкраще Codex справляється з локальними проблемами (наприклад, коли код зайвий раз серіалізує одну й ту саму розмову під час обробки запиту), тоді як складні архітектурні зміни краще вдаються людям. Після того як інженер розгортає виправлення, інший агент автоматично перевіряє, чи зникла проблема.
Плани та висновки для бізнесу
Для команд, що впроваджують ШІ-агентів, інженери OpenAI виділили кілька практичних правил: групувати звіти для людей (щоб уникнути «ШІ-втоми» від надлишку згенерованого тексту), передавати між агентами відтворювані запити замість сирих логів, а також запускати окремих агентів для моніторингу помилок самих ШІ-інструментів.
Надалі OpenAI планує перевести Performance Factory від реагування на збої до проактивної оптимізації: агенти порівнюватимуть профілі процесора й пам’яті між релізами, оптимізуватимуть налаштування автомасштабування, а в перспективі зможуть самостійно розгортати виправлення з низьким рівнем ризику без участі людини.
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті.
«Рішення завжди лишається за людиною»: українські розробники створили ШІ-платформу Talkruit, яка бере на себе всю воронку найму — від скринінгу до перевірки тестових
Двоє українських розробників, Марко Голяк та Любомир Питуля, запустили ШІ-стартап Talkruit, який об’єднує в одному вікні всю воронку IT-найму — від синхронізації відгуків із джоб-бордів до розмов із голосовим агентом і запуску тестових у пісочниці.
Співзасновник стартапу Любомир Питуля розповів dev.ua, як пет-проєкт виріс у комерційний продукт, скільки коштує розробка, як працює монетизація та якою є конкуренція на ринку HR-технологій.
Хочете повідомити важливу новину? Пишіть у Telegram-бот
Головні події та корисні посилання в нашому Telegram-каналі