Varto
Хочете будувати кар’єру в Data Science та AI? Vodafone Big Data Lab відкриває новий набір —>

«Пів дня замість двох годин»: як Fullstack-розробник протистояв витратам токенів при створенні ШІ-бота

Fullstack-розробник Владислав Гаркуша поділився кейсом інтеграції ШІ для інтернет-магазину та розповів про труднощі, через які він «трохи не з'їхав з глузду».

Залишити коментар
Додай у Google
«Пів дня замість двох годин»: як Fullstack-розробник протистояв витратам токенів при створенні ШІ-бота

Fullstack-розробник Владислав Гаркуша поділився кейсом інтеграції ШІ для інтернет-магазину та розповів про труднощі, через які він «трохи не з'їхав з глузду».

Айтівець давно планував створити інтелектуального чат-бота для інтернет-магазину взуття. На початковому етапі процес проходив без ускладнень: Владислав зареєструвався на платформі автоматизації n8n, підготував необхідний промпт та налаштував базову логіку. Далі він створив проміжний сервер на фреймворку Next.js для прямого звернення до n8n, де в якості основної мовної моделі була підключена GPT-5mini.

Однак у процесі тестування розробник зіштовхнувся з проблемою, знайомою багатьом творцям рішень на базі ШІ.

«Я трохи не з'їхав з глузду. Спочатку все було добре, але потім почалося те, про що кажуть багато вайбкодерів — токени! Вся ця система почала їсти дуже багато токенів», — ділиться Владислав у LinkedIn.

Щоб оптимізувати витрати ресурсів, розробник спочатку впровадив обмеження на рівні 6 повідомлень на 30 хвилин. Втім, виключно фронтенд-рішення виявилося недостатнім для повноцінного захисту та контролю.

«На фронті цього було замало, тому прийшлось робити все „як у людини“: зробив роутер, який звертається до n8n і повертає мені потрібні товари, а також додав ліміт на бекенді. Потім зменшив контекст і скоротив response до тільки того, що реально потрібно», — пояснює ІТ-фахівець.

За словами Владислава, завдання, яке початково планувалося виконати орієнтовно за дві години, у підсумку розтягнулося на пів дня інтенсивної роботи.

Попри виниклі складнощі та суттєве коригування таймінгу, розробник оцінює цей кейс позитивно, адже завдяки оптимізації архітектури йому вдалося отримати цінний практичний досвід та досягти бажаного результату.

Український айтівець створив CLI-інструмент який спрощує фронтенд-розробку з ШІ та економить токени
Український айтівець створив CLI-інструмент, який спрощує фронтенд-розробку з ШІ та економить токени
По темi
Український айтівець створив CLI-інструмент, який спрощує фронтенд-розробку з ШІ та економить токени
Як зекономити 60% на токенах: айтівець придумав перетворювати ШІ-контекст на PNG-файли
Як зекономити 60% на токенах: айтівець придумав перетворювати ШІ-контекст на PNG-файли
По темi
Як зекономити 60% на токенах: айтівець придумав перетворювати ШІ-контекст на PNG-файли
Розробник створив гаджет Clawdmeter для моніторингу використаних токенів Claude Code
Розробник створив гаджет Clawdmeter для моніторингу використаних токенів Claude Code
По темi
Розробник створив гаджет Clawdmeter для моніторингу використаних токенів Claude Code
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
2 коментарі
Російську розробницю можуть видворити з Естонії за ухилення від сплати податків
Російську розробницю можуть видворити з Естонії за ухилення від сплати податків
Російську розробницю можуть видворити з Естонії за ухилення від сплати податків
В Twitter Дмитро Малеєв зібрав хронологію постів російської розробниці, яка переїхала жити до Естонії, працює на американську компанію та платить податки в Грузії, і цим хизується. Ця ситуація стала резонансною серед спільноти соцмереж та навіть дійшла до колишнього президента Естонії, який пообіцяв особисто з цим розібратись. Про це пише DOU.
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
6 коментарів
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
2 коментарі

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.