Підрозділ Google Deepmind виклав на своєму сайті кейс використання сімейства великих мовних моделей штучного інтелекту Gemma в українському сервісі «єДозвіл». Вони працюють на GPU NVIDIA H100 в українському центрі обробки даних.
Підрозділ Google Deepmind виклав на своєму сайті кейс використання сімейства великих мовних моделей штучного інтелекту Gemma в українському сервісі «єДозвіл». Вони працюють на GPU NVIDIA H100 в українському центрі обробки даних.
Сервіс «єДозвіл» — це перша державна послуга в Україні, що використовує штучний інтелект для автоматичної попередньої перевірки документів, яка працює на порталі «Дія». Її створили фахівців Міністерства економіки, екології та сільського господарства України, які інтегрували модель Gemma 3 27B у робочий процес.
В Google відзначили, що використання ШІ для підвищення ефективності та точності оброблення документів було логічним рішенням, але законодавча база України передбачала деякі важливі обмеження з погляду безпеки. Зокрема всі системи ШІ, що використовуються в державних службах України, повинні працювати в закритій інфраструктурі, без зовнішніх API-викликів або залежності від хмарних технологій.
«Ми повинні працювати в рамках суворих законодавчих та безпекових вимог, зберігаючи всі операції в повністю закритому середовищі без зовнішніх API або хмарних технологій. Gemma надала нам рідкісний баланс між потужним міркуванням та безпечним локальним розгортанням», — вказав CDTO та заступник міністра економіки, екології та сільського господарства України Олександр Циборт.
Завдяки Gemma, в міністерстві створили систему, яка аналізує інформацію з документів, витягнуту з поданих просканованих зображень, і поєднує її з даними, отриманими з державних реєстрів. Після цього вона рекомендує рішення урядовому чиновнику, якому доручено розгляд заявки.
Щоб вирішити, на якій LLM базувати свою модель, розробники міністерства протестували кілька відкритих моделей, щоб знайти найбільш відповідну для їхніх завдань. Команда виявила, що Gemma 3 27B постійно перевершувала інші протестовані моделі за точністю, логічною узгодженістю та контрольованістю, особливо в структурованих робочих процесах прийняття рішень
«Продуктивність і стабільність Gemma зробили її найбільш слушним вибором. Додатковою перевагою Gemma є можливість її ефективного розгортання на місці завдяки відносно компактному розміру. Модельна лінійка Gemma — одна з найкращих відкритих моделей, яка підходить для більшості випадків, включаючи українську мову та контекст, що особливо важливо, оскільки Україна продовжує розробляти власну національну українську LLM», — сказав радник з питань штучного інтелекту Дмитро Войтех.
У «єДозволі» використовується модель Qwen 2.5 7B VL для вилучення текстових даних зі сканованих документів, а Gemma 3 27B — для забезпечення повноти заявки, узгодженості інформації та відповідності певним вимогам, таким як мінімальний вік та освіта заявників. Потім модель аналізує та приймає одне з трьох рішень, яке передає посадовій особі, відповідальній за розгляд заявки: видати ліцензію, відхилити заявку або провести додаткову перевірку вручну.
Наразі модель розгорнута в Україні за допомогою VLLM і працює на графічних процесорах NVIDIA H100 в українському центрі обробки даних.
Українські розробники вже працюють над розширенням використання моделі на інші типи ліцензій, крім ветеринарних, вони також вдосконалюють її, щоб поліпшити розуміння української мови та термінології, характерної для документів. Це передбачатиме створення системи оцінки для подальшого вдосконалення продуктивності та точності моделі.
Команда також експериментує з уніфікованим мультимодальним підходом, вдосконалюючи Gemma 3 на основі набору даних сканованих документів, щоб поліпшити візуальне розуміння документів.
Нагадаємо, що нещодавно Google анонсувала малу версію своєї відкритої моделі Gemma, розроблену для роботи на локальних пристроях. За словами компанії, нову Gemma 3 270M можна швидко налаштувати, і вона зберігає високу продуктивність, попри свої невеликі розміри.
