Типова ситуація: AI сортує резюме, відсіює кандидатів і підказує, кого брати. Для бізнесу це, звісно, оптимізація. А от для регулятора з ЄС — це вплив на доступ до роботи. І це вже зона ризику.
Тож якщо система фільтрує кандидатів, оцінює їх, впливає на рішення про найм, то вона вже підпадає під жорсткі вимоги.
Кого це зачепить:
- SaaS-продукти з клієнтами з ЄС
- Аутсорс-команди, що працюють із європейськими даними
- Продукти з AI-функціями (рекрутинг, скоринг, рекомендації)
- Компанії, чиї клієнти використовують їх продукт у ЄС
- Стартапи, що планують вихід на ринок ЄС
Де основні ризики:
- Використання AI у наймі кандидатів
- Використання сторонніх AI (типу ChatGPT) без контролю
- Відсутність опису, як працює AI
- Робота з даними користувачів із ЄС без перевірки
- Автоматичні рішення без участі людини
Один із найбільших ризиків зараз дійсно у HR-команд.
Ось приклад «поганого» AI-compliance: HR не може пояснити, чому кандидат відхилений. Немає опису, як працює AI, і рішення виглядає автоматичним. Відповідальність усе одно на компанії.
Що саме змінює закон:
- З’являються категорії ризику для AI
- Частину систем можуть заборонити
- Для деяких потрібен аудит і контроль
- З’являються великі штрафи
- Важливо не де компанія, а де використовується продукт
Що робити вже зараз
- Перевірити, де у вас є AІ
- Зрозуміти, чи є клієнти або користувачі з ЄС
- Оцінити, чи впливає AI на рішення щодо людей
- Описати, як працюють ваші AI-функції
- Додати базові правила використання AI в команді
За нашими оцінками, ситуація буде розвиватися точно як із GDPR.
Спочатку бізнес ігнорує, потім європейські контрагенти починають уже вимагати відповідність або ж обирають інших.
AI Act уже стає умовою роботи з ЄС.