Уявіть: ви спілкуєтеся з оператором кол-центру і навіть не розумієте, що по той бік — робот. Телекомунікаційна компанія Vodafone Ukraine останнім часом сильно наблизила цей момент до реальності. Компанія розробила власну ШІ-модель на власному залізі, натренувала її та готується до першого MVP вже на цьому тижні.
Уявіть: ви спілкуєтеся з оператором кол-центру і навіть не розумієте, що по той бік — робот. Телекомунікаційна компанія Vodafone Ukraine останнім часом сильно наблизила цей момент до реальності. Компанія розробила власну ШІ-модель на власному залізі, натренувала її та готується до першого MVP вже на цьому тижні.
Ми поспілкувалися з Сергієм Бориславським, начальником департаменту цифрових рішень та платформ Vodafone Україна. В ексклюзивному інтерв’ю він розповів подробиці створення власного штучного інтелекту: скільки витратили грошей, коли це окупиться, чому не брали за основу продукти OpenAI, як найближчим часом у контакт-центрах з’явиться глобальний ШІ-супервайзер, чи замінить штучний інтелект співробітників кол-центру та працівників магазинів і коли у Vodafone з’являться цифрові двійники людей.
— З чого Vodafone Ukraine почав розвивати власні AI продукти?
— Ми давно використовуємо ШІ в управлінні мережею, в роботі з великими даними. Нещодавно презентували план нового AI продукту для внутрішнього і зовнішнього використання. Це дуже розгалужена система, її багато для чого можна використовувати.
Спочатку ми розглядали два варіанти. Перше — це використання хмари чужого АІ-продукта і сервісу. Другий — самостійна розробка і навчання AI.
— Чому ви обрали власне рішення?
— Ми працюємо з персональними даними, і зараз жоден зовнішній сервіс не дає тобі 100% впевненості, що ці дані не потраплять кудись і десь потім спливуть.
— Тобто ваша AI-система, вона на власних серверах, це не чиясь LLM? І вона не є частиною якогось величезного алгоритму, а саме ви розробили її для себе?
— Так. Тому я не буду називати точні цифри, але це десятки мільйонів, які ми вкладаємо, вже вклали і плануємо вкладати у цю історію. І вона складається з декількох частин.
Перша — це побудова власної hardware-інфраструктури. Сервери, багато GPU, які коштують зараз мільйони, дістаються досить складно, але ми це вирішуємо.
Друге — це побудова софтової частини, для цього існує власна ІТ-компанія — IT SmartFlex, яка якраз і надає цю послугу для Vodafone Ukraine — побудову продукту комплексно.
— Коли ваш AI почне працювати?
— Ми протестуємо його всередині компанії, на власних бізнес-процесах обслуговування клієнтів, старт MVP намічений 15 травня. У цей проєкт ми залучили наразі близько 30 людей.
Насамперед AI допоможе нам покращувати роботу нашого контакт-центру. Там працюють сотні людей. Перший MVP — це одна з фаз, яка в нас піде зараз. Ми розділили продукт на декілька етапів. Перший етап — це робота з голосом.
— Як AI-рішення почне допомагати вашому контакт-центру?
— Воно буде працювати як глобальний супервізор, який допоможе співробітнику контакт-центру стати кращим продавцем,покращеною версією самого себе. 15 травня ми саме стартуємо на окремій виборці працівників.
Щодня співробітнику буде доступна інформація, наскільки він ефективно перформить, що йому треба змінити, як поміняти свій скрипт, де йому треба бути більш наполегливим у спілкуванні з клієнтом, або які слова використовувати для того, щоб його робота приносила більше цінності для нашої компанії та більше цінності для клієнта.
Я читав у західній пресі, що AI може вбити більшість кол-центрів уже через рік.
— Тобто, будемо вбивати кол-центри?
— Ні. Це питання про краще виконання роботи. Щоб працівник був більш ефективний. А людські ресурси, які будуть з’являтися, можна використовувати на якісь речі, де штучний інтелект взагалі нам не може допомогти. Або не буде таким ефективним, як робота людини.
Важливо зазначити, що ми не намагаємося скоротити контакт-центри. Просто зрозумійте роботу оператора. Це людина, яка кожен день отримує безліч тікетів. Вона перебуває в постійному режимі питань та відповідей. І вона робить одне й те саме. І кожен раз переймається тим, щоб не пропустити якесь важливе питання.
І ось ми хочемо зняти цей стрес. Можемо одразу виправляти помилки, щоб надалі все робилося правильно.
Що ще важливо: кількість звернень клієнтів до нашого контакт-центру або в інші точки продажу зростає щороку, незважаючи на війну. А ми як компанія не можемо зростати так само швидко в кількості людей. Зокрема, тому що це негативно впливатиме на нашу економіку.
І тут постає питання: яким чином, маючи той самий персонал, задовольнити попит, підвищити рівень відповідей для кінцевого клієнта? Це перша задача, яку ми вирішуємо.
Друге — в нас постійно з’являються якісь нові продукти. І людині досить важко розібратися у всьому портфоліо продуктів оператора.
— Які ще рішення будуть побудовані на базі вашої AI-моделі?
— Паралельно в нас йде побудова чат-боту на основі AI. Зараз ми активно вивчаємо тему, дивимося на технологічний стек.
Все швидко змінюється. Спочатку ми мали один флоу, як це повинно виглядати. Але зараз дивимося на це взагалі по-іншому.
В першій редакції ми бачили, що нам потрібно використовувати якісь елементи, які є в OpenAI чи в інших компаніях, які можуть надавати подібні послуги.
Але нещодавно вийшли моделі, які на рівні GPT-4 і можуть бути розвернуті локально. І якщо їх дотренувати, вони зовсім не гірші. І їх можна будувати всередині периметру за доволі невеликі кошти.
— Які нові моделі вийшли?
— Вийшла Llama3, open source від Facebook. По бенчмарку він майже не поступається GPT-4, і його цілком можна використовувати в якості API для ентерпрайз-сегменту. Але водночас не потрібно ганяти дані з одного кінця світу в інший.
Наразі open source йде такими кроками, що можна самостійно скачати модель й розгорнути всередині компанії.
Тому ми зараз тестуємо open source модель від Facebook, яка, до того ж, чудово володіє українською.
І тому ми будуємо систему, яка поліпшить життя оператору, буде надавати йому заздалегідь потрібні відповіді. Буде допомагати оператору покращувати самого себе.
І третє те, що ми будуємо, — це можливість обслуговування клієнтів в наших магазинах. Самостійно, через екранне самообслуговування, з цифровими двійниками.
Сьогодні ми поки що бачимо бар'єр: люди досить часто хочуть спілкуватися з живою людиною, навіть коли приходять у магазин. І ми вивчали досвід: коли людина бачить там якийсь автомат із кнопками, вона навпаки хоче поговорити з живою людиною.
У нас був концепт: ми надаємо можливість зв’язатися по відео з нашими операторами. Але це не дуже гарна ідея, тому що операторам не завжди зручно виглядати супер класно і не завжди зручно бути в красивому офісі.
Виникло питання: чи можемо ми створити якийсь двійник, за яким би маскувалася людина? Або взагалі чи може це бути повністю діджитальний образ, який не можна відрізнити від живої людини і який буде чітко розуміти весь контекст розмови?
Ми вивчали, з якими питаннями люди приходять в магазини. Здебільшого це типові питання: «Скільки в мене грошей на рахунку», «який в мене пакет», «що мені потрібно зробити для того, щоб отримати бонуси», «які пропозиції для мене є».
І з такими питаннями звертаються дві третини. Це досить проста робота. І коли в магазині є велика кількість відвідувачів, частина з яких просто прийшла купити телефон, а частина — прийшла за сервісними операціями, то два-три співробітники, які в магазині, не можуть розірватися. Іноді бувають черги, є сильно навантаженні магазини.
Виникає питання, чи можемо ми взагалі для цих двох третин людей, які прийшли за сервісним обслуговуванням, реалізувати спілкування з нашим діджитальним оператором, водночас не втрачаючи в якості?
А працівники, що фізично знаходяться в магазині, вже б вирішували ті питання, які технічно не може опрацювати робот.
Робот нібито не може ще продати тобі телефон. Але ми бачимо кейси, де магазини взагалі обслуговуються без людей. У таких магазинах є локери. Ти приходиш, спілкуєшся через екран, система порівнює телефони для тебе, запитує, що тобі потрібно, пропонує варіанти. Потім ти оплачуєш карткою, локер відкривається, ти забираєш телефон і йдеш собі далі.
— А зараз на тебе індуси через камери дивляться, замість роботів (смайл).
— Так, це кейс був з Амазон і мережею магазинів із самообслуговуванням в Америці. І це було дуже смішно.
— У вас такого точно не буде? Якісь люди будуть дивитися і потім перевіряти, як працюють насправді українські call-центри (смайл).
— Я думаю, що технології вже прийшли до того, що можна все це робити дешевше. Без індійців і з кращою якістю.
— Тобто, я правильно розумію, що ви хочете створити візуального цифрового двійника оператора call-центра? Ти телефонуєш, і він тобі каже, що в тебе такий-то тариф, змінюй його або ж залишай.
— Це next step. По факту зараз інтелект розуміє контекст і знає, що тобі відповісти, чи може доволі якісно згенерувати текстову відповідь. Чистою солов'їною. Ми пропрацювали це питання. І робот чітко розуміє, що відповідати. Питання, яке залишається — якісна генерація голосу у відповідь.
Клієнт не повинен чекати дві, та навіть одну секунду. Ти поставив питання — одразу після цього має бути відповідь. Це має відбуватися за долю секунди.
І це є у нас в роудмапі. Це не перший пріоритет, тому що ми розуміємо технологічну складність. Вона не вирішена не тільки в нас, а й в інших компаніях.
Я думаю, що ми до цього питання підійдемо ближче до кінця року. Тобто по факту в інфраструктуру, яка у нас побудована, потрібно буде додавати ще один елемент. Це озвучка.
Наразі це гарно робить тільки жива людина. Але, я думаю, ближче до кінця року ми спробуємо запустити пілот на якійсь частині дзвінків. Ми можемо виокремити кілька відсотків дзвінків на call-центр і опрацювати цей трафік на новій технології. Подивитися взагалі, що відбудеться. Поміряти, чи буде клієнт залишатися задоволеним.
Плани на найближчі півроку (до кінця 2024) — оцифрувати весь текст, оцифрувати весь голос. Відповідати на будь-якому каналі за можливості текстом. Або допомагати операторам з глобальним супервізором. І наблизитися до питання генерації голосу.
— Чи можна продавати вашу модель на ринку для потреб інших компаній?
— Те, як ми зараз будуємо поблочно цей продукт, досить легко відокремлюється від нашої компанії. І цей продукт може бути наданий зовнішнім замовникам.
Тобто ти просто інтегруєш свій голос або свій текст. Вся елементна база вже є. Ти вибираєш сферу, в якій ти працюєш. Можеш завантажити свій базовий скрипт або знання про свою компанію. І результат вже буде такий, який є в нас, з тим же рівнем якості.
І зараз ми вивчаємо ринок, шукаємо цільовий сегмент. Побачили, що є великі підприємства, і частина з них зможе задовольнити цю потребу самостійно. У великих компаній також є досить великий штат IT, якому, мабуть, також під силу це зробити. Але дві третини ринку не зможуть це реалізувати самостійно, і їм вигідно використовувати вже готові рішення, що є на ринку. На жаль, далеко не всі вони будуть адаптовані для України. Дуже часто виникатимуть мовні питання.
— А коли ваша власна AI-розробка окупиться? Ви рахували?
— Саме для нашої компанії, якщо ми не враховуємо продажі рішення комусь, а будемо використовувати систему виключно для власних потреб, окупність цієї історії становитиме приблизно рік. Звичайно, залежно від різних зовнішніх факторів.
— Тобто інвестиції — доволі велика сума, але окупність доволі швидко наступає?
— На нашому масштабі — так. Тому що, коли маєш сотні тисяч дзвінків щодо обслуговування на день, десятки тисяч чатів на день, тисячі клієнтів, які в тебе стоять в магазинах і хочуть задовольнити свій попит в обслуговуванні, то на такому масштабі подібні продукти відбиваються досить легко.
Якщо ж ти невелика компанія, то така розробка для власних потреб ніколи б не окупилася. І на цьому якраз і побудована наша стратегія: ми хочемо побудувати продукт не тільки для себе, але й для потреб невеликих компаній, які не можуть собі дозволити власну розробку.
