Віцепрем’єр-міністр Михайло Федоров та представник Мінцифри Дмитро Овчаренко розповіли про ключові виклики кібербезпеки та специфіку тестування продуктів на базі штучного інтелекту (ШІ). Головним вектором атаки на державні системи є соціальна інженерія, тоді як тестування ШІ-асистентів вимагає у чотири рази більше ресурсів, ніж їхня розробка.
Віцепрем’єр-міністр Михайло Федоров та представник Мінцифри Дмитро Овчаренко розповіли про ключові виклики кібербезпеки та специфіку тестування продуктів на базі штучного інтелекту (ШІ). Головним вектором атаки на державні системи є соціальна інженерія, тоді як тестування ШІ-асистентів вимагає у чотири рази більше ресурсів, ніж їхня розробка.
Михайло Федоров на ІТ Arena у Львові відзначив, що найбільшою загрозою є соціальна інженерія. Хакери намагаються отримати доступ до супер адмінів ключових інформаційних систем через вектори атаки, як-от злам телефонів родини або імейли, оскільки технічні атаки (DDoS) є менш проблемними.
Для боротьби з цими атаками Мінцифри побудувало SOC (центр безпеки) в «Дії», постійно проводить Bug Bounty, виклало код «Дії» в OpenSource. Також була створена окрема вертикаль кібербезпеки та Cloud на чолі з профільним заступником, який функціонує як незалежний тестувальник, що атакує продуктову вертикаль.
Специфіка ШІ вимагає нових підходів, зокрема через вектор промпт-атак. Дмитро Овчаренко зазначив, що експертиза тестування ШІ-асистентів українською мовою є суперлімітованою, а специфіка (включно із суржиком) додає складності, оскільки бракує сталої практики. Команда Red Team Мінцифри виконала титанічну роботу, щоб протестувати всі відомі та невідомі вектори атак.
«Це щось новеньке. І ми з цим зіштовхнулися, напевно, перші в світі серед урядів» — заявив очільник Мінцифри.
Співвідношення розробки до тестування (включно з non-functional, security, performance) становить приблизно 1:4. Внутрішній датасет для тестування «Дії» налічує близько 50–60 000 повідомлень. Напрацьована методологія тестування тепер застосовується до всіх нових застосунків: Digital Film, «Дія.Освіта», «Дія.Бізнес».
Раніше dev.ua писав про те, як на ІТ Arena у Львові віцепрем’єр і міністр цифрової трансформації Михайло Федоров продемонстрував «маленький спойлер»: у презентації з’явився екран Дія.AI з діалогом про нову послугу та візуалізацією банківської картки Diia з позначкою Visa.
