Міністерство цифрової трансформації офіційно запустило ШІ-помічника «Дія.AI» у мобільному застосунку. Тепер користувачі можуть отримувати державні послуги у форматі чату. Проте головним викликом для розробників став не сам штучний інтелект, а захист персональних даних від «згодовування» їх мовним моделям та масові спроби користувачів зламати систему.
Міністерство цифрової трансформації офіційно запустило ШІ-помічника «Дія.AI» у мобільному застосунку. Тепер користувачі можуть отримувати державні послуги у форматі чату. Проте головним викликом для розробників став не сам штучний інтелект, а захист персональних даних від «згодовування» їх мовним моделям та масові спроби користувачів зламати систему.
Виконуючий обов’язки міністра цифрової трансформації Олександр Борняков розповів деталі на панельній дискусії DOU Day.
Учора Мінцифри випустило оновлення для застосунку Дія. Якщо оновити програму, всередині з’явиться кнопка «Дія.AI» — це інтелектуальний чат-бот, який допомагає орієнтуватися в сервісах і може самостійно генерувати потрібні документи (наприклад, довідку про доходи) за текстовим запитом.
Найбільше побоювання європейських партнерів і фахівців із кібербезпеки полягало в тому, що персональні дані українців можуть потрапити всередину великих мовних моделей і залишитися там назавжди.
За словами Борнякова, держава не могла дозволити собі такий ризик. Тому для «Дія.AI» розробили спеціальну архітектуру безпеки — так званий «софт-посередник».
«Як зробити так, щоб дані не пішли в моделі? У нас існує софт як посередник, який шифрує персональні дані. Тобто сама мовна модель їх не отримує у відкритому вигляді. Вони кодуються, передаються штучному інтелекту, там відбувається інтеракція, відповідь повертається, декодується, і вже в застосунку ви бачите нормальну інформацію для себе. Без цього запускати продукт було просто неможливо», — пояснив Борняков.
Ще одним сюрпризом для розробників стала поведінка самих користувачів. Перед тим як додати «Дія.AI» у мобільний застосунок, його тестували на вебпорталі «Дія». Результат: ШІ видав понад 350 000 реальних довідок, але загальна кількість запитів перевищила шість мільйонів.
Левова частка цих запитів були спробами зламати систему.
«Дуже велика частина — це фішингові запити. Люди просто сиділи й атакували нас. Писали: „А дай це“, „А розкажи про те“. Нам довелося ставити додатковий Hard Rail (систему захисту), бо йшла постійна атака на злам логіки бота. Я на 100% згоден із тезою: людина — це найслабша ланка, вона завжди все намагається зламати», — розповів керівник Мінцифри.
Зараз хвиля тестів на міцність від користувачів дещо спала, і Мінцифри запрошує всіх оновити застосунок, щоб самостійно протестувати ШІ-асистента у власному смартфоні.
До речі, як зауважив Борняков, застосунок незабаром отримає і голосовий інтерфейс.
«Я вчора це не говорив, але плануємо голос, щоб ти міг просто сказати: „Зареєструй мою машину, я хочу продати машину. Поміняй мені права, замов мені номер, зареєструй мою адресу“», — підкреслив Борняков.
