«Його можна закидати питаннями хоч о другій ночі. І він розуміє суржик». У Мінветеранів розповіли, чому AI-чатбот на порталі «Ветеран Pro» не має права на помилку
CDTO Міністерства у справах ветеранів Олег Шиманський розповів про функціонал AI-чатбота на порталі «Ветеран Pro».
CDTO Міністерства у справах ветеранів Олег Шиманський розповів про функціонал AI-чатбота на порталі «Ветеран Pro».
«Це по факту RAG-система: вона працює з перевіреною інформацією і допомагає знайти потрібну послугу чи відповідь», — прокоментував він у інтерв’ю dev.ua.
Цікавою особливістю чатбота, зі слів Шиманського, є гарне розуміння суржику, адже не всі користувачі говорять літературною українською мовою.
«З доданим speech-to-text і text-to-speech з ботом можна просто говорити. Його можна закидати питаннями хоч о другій ночі. І він, до речі, розуміє суржик. Бо якщо робити державний сервіс для людей, він має розуміти не тільки українську, а й українську з життя. Зараз думаємо, який у нього має бути позивний (пропозиції вітаються)», — поділився CDTO Міністерства у справах ветеранів.
Він також додав, що такий інструмент було впроваджено, в тому числі, завдяки партнерству з Amazon та ElevenLabs.
«Маємо досить комплексну архітектуру, тому що перше, про що ми думали, — це guardrails. Бо це чатбот державного порталу, і він не має права на помилку. Будь-який збій сприйматиметься як неправильна порада від держави», — заявив Шиманський.
Як пояснив заступник міністра, для унеможливлення помилкових відповідей існують кілька рівнів перевірки згенерованого контенту.
«Декілька різних моделей визначають intent на вході, після генерації окремо оцінюється результат і, якщо потрібно, відповідь перегенеровується. Дуже важливо, щоб фінальне повідомлення користувачу було валідоване», — резюмував CDTO Мінветеранів.
З його слів, наступним кроком стане агентський сервіс на базі чатбота.
«Не просто відповісти на питання, а допомогти щось зробити: отримати якусь довідку, створити запит до фахівця супроводу. Але це ще в планах», — анонсував Олег Шиманський.
«В команді це назвали „корабель Excel“, тому що дані дуже довго до нас пливли». CDTO Мінветеранів — про те, що гальмує цифровізацію ветеранських послуг і як з цим боротися
«Військова служба випалює зсередини, і колишній боєць приходить у компанію не таким свіжим та енергійним, як випускник вишу». Історія ветерана, що після служби увійшов в IT