Українці створили нову мовну модель для української мови MamayLM, яка перевершує всі подібні за розміром моделі як для англійської, так і для української мов, а також здатна перевершити моделі більші до 10 разів (наприклад, на задачах з ЗНО).
Українці створили нову мовну модель для української мови MamayLM, яка перевершує всі подібні за розміром моделі як для англійської, так і для української мов, а також здатна перевершити моделі більші до 10 разів (наприклад, на задачах з ЗНО).
Як повідмила dev.ua команда розробників, команда є частиною Інституту INSAIT в Болгарії та ETH Zurich в Швейцарії.
«MamayLM є економічно ефективною і може працювати на одному графічному процесорі. Вона ідеально підходить для забезпечення швидкої, економічно ефективної автономії та впровадження штучного інтелекту в різних секторах України, зокрема в освіті, юриспруденції, охороні здоров’я та державному секторі (наприклад, шляхом спеціалізації моделі для різних варіантів використання). Вона також приваблива у сценаріях, де важливим є збереження конфіденційності даних, оскільки її можна запускати на локальній машині», — розповіли винахідники.
Команда вже провела переговори стосовно планування співпраці із Міністерством цифрової трансформації. «Ми знаходимось на звʼязку з командою AI Center of Excellence, які зараз сфокусовані на запуску розробки великої української мовної моделі. Наша співпраця буде сфокусована на обміні досвідом та спільних тестуваннях задля розвитку та допомоги впровадженням ШІ в країні. Ми також додаємо в копію посольство України в Болгарії, яке було заздалегідь проінформоване щодо цього важливого прогресу для України», — повідомили розробники.
MamayLM є у вільному доступі на HuggingFace.
MamayLM побудована на основі моделі Google Gemma 2 9B, яку INSAIT раніше використовував для розробки серії моделей BgGPT 2.0. Вона адаптована до специфіки української мови, є експертом у рідній мові та культурних нюансах. Також модель є потужною основою для створення додатків та їх інтеграції в державні установи — особливо в умовах, коли критично важливо зберігати конфіденційність даних (оскільки модель такого невеликого розміру може працювати локально) — а також для особистого використання за невеликої вартості.
MamayLM демонструє найвищий результат на іспитах ЗНО (Зовнішнє Незалежне Оцінювання) серед моделей подібного розміру, випереджаючи навіть значно більші моделі, зокрема Gemma2 27B, Llama 3.1 70B та Qwen 2.5 72B.
