«Ми зробили те, про що самі не мріяли у 2022». Як штучний інтелект змінює державу й армію зсередини — інтерв’ю з творцем ШІ-рішення Avengers, що автоматично ідентифікує військову техніку
Українські розробники активно досліджують потенціал штучного інтелекту не лише в бізнесі, а й у державному секторі. Один із першопроходців цього напряму — Максим Корженевський на початку повномасштабного вторгнення очолював групу зі створення системи автоматичної ідентифікації військової техніки Avengers. Про те, як ШІ працює у бойових умовах, чому Україні потрібна власна велика мовна модель і чи загрожує згортання USAID цифровій трансформації Україні — читайте в інтерв’ю dev.ua з фаундером і CTO MK-Consulting Максимом Корженевським.
Українські розробники активно досліджують потенціал штучного інтелекту не лише в бізнесі, а й у державному секторі. Один із першопроходців цього напряму — Максим Корженевський на початку повномасштабного вторгнення очолював групу зі створення системи автоматичної ідентифікації військової техніки Avengers. Про те, як ШІ працює у бойових умовах, чому Україні потрібна власна велика мовна модель і чи загрожує згортання USAID цифровій трансформації Україні — читайте в інтерв’ю dev.ua з фаундером і CTO MK-Consulting Максимом Корженевським.
— Що зараз нового із впровадження ШІ в Govtech-компаніях? Які рішення MK-Consulting вже інтегрували в урядових проєктах?
Перший кейс поза межами Міністерства оборони ми зробили для Мінцифри на платформі «Дія.Engine» для Міністерства молоді і спорту. Загалом це класичний Retrieval Augmented Generation, коли використовується мовна модель із контекстом, яким володіє сама організація, нормативні документи, внутрішні ескізи, інструкції й тому подібне. І промпт, який уже користувач заносить, він спочатку збагачується внутрішнім контекстом, документацією, а потім уже направляється на велику мовну модель.
В основному мета такої співпраці — це допомога державі. Один із класних кейсів, які я хочу реалізувати — це розробка платформи для інклюзивного залучення ветеранів у суспільство й роботу. Зараз є проблема, що багато ветеранів банально не можуть написати резюме. У цьому випадку велика мовна модель дуже класно допомагає. Коли користувачу ставлять уточнювальні запитання, модель по шматочку, маленькими кроками, поступово витягує з реципієнта необхідні дані, щоб створити CV, потім віддає йому назад покращену версію резюме, яке користувач може доповнити.
Тобто це автоматизація таких рутинних завдань, яка прибирає людський чинник, упередженість і тому подібне. На мою думку, далі воно буде корисним для роботи з реєстрами та заявками.
Детальніше про кейс для Міністерства молоді та спорту
MK-Consulting розробили систему зі штучним інтелектом на платформі «Дія.Engine» в Міністерстві молоді та спорту України. Система спрощує роботу заявників на конкурси та зменшує навантаження на співробітників, які перевіряють заявки. Вона працює в українському дата-центрі, оскільки дані не можуть передавати за межі України.
Система використовує модель JEMa 2 для обробки тексту, розгорнуту в Kubernetes за допомогою Helm. Для зберігання даних використовується PostgreSQL. Система розбиває заявки на логічні блоки, відкидає нерелевантну інформацію й використовує JEMa для обробки кожного поля. Результат аналізу надається заявнику й посадовій особі. MK Consulting також розгортали та налаштовували інтеграцію сервісів.
— Який фідбек ви отримали від Мінцифри після впровадження ваших рішень на основі ШІ?
Дуже позитивний. Оскільки наша компанія працює на Govtech ринку ми є членами Govtech Альянсу. Для всіх було дуже боляче, коли зупинила роботу програма USAID, тому що багато саме айтішних проєктів у державі фінансувалося через цю програму.
Ми подивилися на цифри та зрозуміли, що в наявній ситуації нам, напевно, доведеться скорочувати штат. До нас звернулися урядовці з проханням цього не робити, оскільки ми маємо фахову експертизу. Пообіцяли перекрити брак фінансування за допомогою інших донорів, тому в нас велика підтримка з боку держави.
Зараз у Мінцифрі створили AI Center of Excellence, набрали дійсно класних спеціалістів, які добре розуміються в доменній сфері, з комерційним досвідом, і ми дуже тісно та плідно спілкуємося з ними, як впроваджувати пов’язані зі штучним інтелектом і з великими мовними моделями проєкти в державі.
— Можна сказати, що шок від того зупинки діяльності USAID пройшов і вже знайшли інші джерела фінансування?
Саме так.
— Які ще, на вашу думку, ШІ-проєкти, які вже реалізували в Україні, вам особисто сподобалися, на які б можна було звернути увагу?
Найбільше сподобалось у військовій сфері, про які я казати не можу, бо всі ми розуміємо, що за цим пильно стежить наш ворог. Коли щось допомагає вбивати ворога, персонально я відчуваю велике-велике задоволення.
— Ви раніше працювали у структурі Міністерства оборони, зокрема були відповідальні за створення й запуск системи Avengers. Розкажіть детальніше про свій досвід роботи над цією системою.
Це було непросто, якщо подивитися ретроперспективно й повернутися на початок повномасштабного вторгнення, я не вірив, що Avengers так вистрелить. Коли читав про Project Maven, проєкт у Кремнієвій долині, що фінансує Пентагон на $100 млн, я думав: «Ну, от у них, мабуть, просто космічний космос». Так сталося, що я познайомився потім із колегами із Project Maven, вони презентували свої наробітки й ми зрозуміли, що наша команда дійсно молодці. Партнери блимали очима від враження, яке на них справила Avengers.
Моделі, які створені за допомогою Avengers, можливо, на сьогодні найкращі у світі.
Цей проєкт, напевно, не реалізувався би без допомоги держави, оскільки він розроблявся всередині війська, а на це треба фінансування, не всі розуміли, для чого це потрібно, що за сфера. Ти не можеш підписатися під якимось KPI, що дайте мені стільки-то людей, стільки-то грошей, ось тут тримай на хостинг, і я вам зроблю отаку-то систему з такими-то показниками — це неможливо. Це все гіпотези, які треба перевіряти, це, власне, R&D, однак ми впоралися. На початку допомогла Мінцифри, якій мені вдалося продати цю ідею простіше за все. Вони розуміли, що це й куди це може прийти. У квітні 2022 року я казав першому заму Мінцифри Олексію Вискубу: «Ти розумієш, що це як лаба, яка може об'єднати ком’юніті навколо себе і з цього можуть вийти не лише військові проєкти, а й цивільні, освітні, медичні й будь-які».
У Мінцифрі перші в це повірили й допомогли в просуванні ідеї у військові структури. Мінцифри простіше продати це рішення, ніж Міністерству оборони, а МО простіше його продати, ніж ГШ. Зараз Avengers — це вже невіддільна частина екосистеми DELTA, яка збирає на всіх мілітарі-конференціях купу оплесків.
Колеги з НАТО із захопленням дивляться, що ми робимо. Мені здається, що ми навіть можемо не голосно, але так тихенько говорити, що деякі моделі, які створені за допомогою Avengers, можливо, на сьогодні найкращі у світі.
Про Avengers
ШІ-платформу Avengers розробили під егідою Центру інновацій Міністерства оборони України. За допомогою неї оператори можуть приймати рішення швидше та ефективніше, а ризик помилок через втому зменшується. Українські військові виявляють 12 000 цілей щотижня завдяки Avengers
— За 3,5 року повномасштабного вторгнення в Міністерстві оборони вже краще орієнтується, вони тепер більш схильні до впровадження технологічних рішень в армію?
Так, звісно. Зайшла нова команда в напрямі цифрової трансформації, з’явилось розуміння й головне — технології показали результат. Зараз іноді, навпаки, ти бачиш від військового запит, що «давай ти мені все це штучним інтелектом зробиш», я кажу, що не треба ШІ, однак вони все одно наполягають на впровадженні ШІ.
Декілька кейсів ми робили сусіднім безпековим відомствам. Зараз не в усіх є внутрішні команди, є певні безпекові обмеження, тому це все швидше б рухалось, якби був більш розвинутий ринок фахівців.
— Як держава юридично захищає новітні українські розробки, щоб потім їх не копіювали інші країни без нашого відома?
Я не знаю всіх юридичних тонкощів, але колись юристи показали патентний сертифікат, де вписано моє ім’я, колег, що ми запатентували цю технологію, і вона перебуває на балансі Міністерства оборони, відповідно, повністю належить нашій державі, Міністерству оборони.
Я знаю, що партнери звертаються до МО із запитом на використання наших рішень у себе. Мені здається, це перший кейс в Україні, коли вони готові платити просто за доступ до даних платформи, щоб тренувати суміжні дані.
— Чи складно буде інтегрувати наші системи, такі як Avengers чи DELТА, у структури НАТО?
Нескладно, тому що DELТА із самого початку будувалася на канонах і стандартах НАТО. В Альянсі є захід TIDE Sprint на якому фахівці Центру інновацій двічі виграли та взяли ще одне призове місце в іншому напрямі. Тобто спочатку на конференціях НАТО обговорюють проблематику, генерують ідеї, як цю проблематику можна вирішити. Потім країни-члени створюють функціонал, а потім на новому TIDE Sprint усі тестують свої рішення на взаємосумісність. DELТА із самого спочатку йшла оцим ітеративним шляхом, і Development Life Cycle завжди передбачав, що буде тестування на сумісність. DELТА завжди показує дуже високі результати, у тому числі сумісність із Link-16, яку перевірили понад рік тому. Тобто ми завжди йдемо трохи попереду.
Голова Міноборони розповів, на скільки мільярдів доларів ворожої техніки знищила система DELTA
Я колись був долучений до створення системи Prozorro, яка почала отримувати міжнародні призи, такі як Best Procurement System і тому подібне. Я завжди на цих конференціях казав, що це сталося не тому, що ми такі розумні, а тому, що нормальні передові країни ці системи державних закупівель зробили ще 30 років тому. Звісно, ці системи вже застарілі додати новий функціонал доволі важко. А наша перевага в тому, що Prozorro — це нова та класна система.
Схожа історія відбувається з DELТА — ми це будуємо на сучасних технологіях, одразу пішли в хмару, коли в Штатах, найбільш провідної технологічної країни, розмірковували з приводу, чи можна й чи безпечно військові системи крутити в хмарі. Зараз я знаю, що це питання вже знято.
— Зараз часто можна почути думки, що ШІ варто повноцінно інтегрувати в усі сфери державного апарату. Навіть є заклики, щоб ШІ використовували для написання законопроєктів, як це, наприклад, планують зробити в ОАЕ. Яке ваше ставлення щодо цього?
Нещодавно був нашумілий пост Дмитра Дубілета, який написав: «Давайте всіх наших суддів замінимо на ШІ». Ну, по-перше, AGI Artificial General Intelligence ще не винайшли, такого нема.
Згідно з одним із досліджень, у медичній і юридичній сфері генеративному не так багато місця. Так, якщо є країни з прецедентним правом, де ШІ може допомагати шукати подібні кейси в практиці цієї країни. Якщо ми кажемо про законодавчу творчість, то ШІ може допомагати шукати несумісні або взаємовиключні положення в попередніх законах чи законодавчих актах. От тут вона може допомагати. Писати красиві закони з нуля — точно ні.
— Розкажіть детальніше про використання MK-Consulting великих мовних моделей в державних реєстрах. Наскільки це був успішний випадок?
Перший кейс, який ми здали для Міністерства молоді та спорту, був успішним. Зараз ми здаємо ще один проєкт на запит Мінекономіки. Не можу поки що розкривати деталі, оскільки він ще не зданий, але проміжні результати демонструють дуже високий потенціал.
Класно, що в Україні є провайдери, які можуть дати необхідні графічні карти для розгортання, у межах країни, LLM-моделей без необхідності використання сторонніх API та серверів. Так ми зберігаємо певну незалежність у побудові своїх рішеннях. Це, до речі, відповідає навіть положенням НАТО про цифровий суверенітет.
Цифровий суверенітет. Як боротьба за контроль над даними перетворилася в повноцінний вимір геополітичного протистояння
— Ви позитивно ставитеся до намірів створити в Україні повністю свою українську велику мовну модель?
Абсолютно. Я пітчив ідею створення національної мовної моделі пану Федорову й пану Вискубу ще пів року чи рік тому, оскільки це дуже важливо. Це як збереження душі нації. В умовах російської агресії це надважливо. Так, уже багато моделей уміють дуже гарно розмовляти українською мовою, але вони навчаються на відкритих даних, які спотворені в тому числі Russia Today. Коли виходить нова модель і ти її запитуєш за Крим або що сталося з малайзійським боїнгом MH 17, то вона тобі буде відповідати, що рейс «зазнав катастрофи». От так, просто взяв і зазнав катастрофи. Або що таке УПА? І модель відповідає: «Це організація, яка намагалася зробити етнічно чисту Україну».
З часом усе більше LLM будуть брати участь в освіті. Їх і так уже використовують багато учнів/студентів для вирішення домашніх завдань і написання курсових. І нам дуже важливо, щоб вони не вчилися російським наративам. Я завжди це пов’язую з кейсом псевдожурналістки Мунтян, яка говорить притомною українською мовою, але просуває абсолютно російські наративи.
Не забуваємо про економічну компоненту. Ті моделі, які зараз є, мають поганий український токінайзер. Грубо кажучи, одне й те саме речення українською й англійською коштують різних грошей. Обробити англійською може бути вдвічі, а інколи навіть втричі дешевше, ніж українською, бо токенів більше. Якщо ми створимо свою модель зі своїм токінайзером, ми станемо на один рядок з англійською мовою та просто крутити й використовувати ці моделі стане дешевше.
— В Україні зараз достатньо інфраструктури для впровадження ШІ чи є ще куди рухатись?
Є куди рухатись і є точно куди розбудовуватись, як по горизонталі, так і по вертикалі.
Тобто по горизонталі — провайдери розширюють парк своїх рішень, свій прейскурант, які графічні карти вони можуть запропонувати, технології. Я впевнений, що це спонукає всіх гравців покращувати наявну інфраструктуру. Я сподіваюсь, що розширюючи цей ринок, будуть з’являтися і локальні гравці, які забезпечуватимуть такий самий сервіс, як на заході. Хоча від сучасного світу можна очікувати що завгодно.
Уся Європа там хоститься в умовного Amazon, Google Cloud — це американські компанії. Тут прийшов Трамп, і що в нього в голові, що він завтра придумає, ніхто не знає. Я знаю, що в Європі почали сприймати цю загрозу дуже-дуже сильно, прийшло розуміння, що вони недостатньо вкладалися в локальних гравців.
— Нещодавно з’явилися прогнози, що до кінця року на ШІ може припадати майже половина енергоспоживання центрів обробки даних. На вашу думку, чи вистачить нам потужностей розвивати ШІ після масованих обстрілів рф по енергетичному сектору України?
Треба забирати найбільшу в Європі атомну електростанцію — Запоріжську — і розвивати альтернативні джерела живлення. Зараз це дуже помітний тренд. Австралія, Філіппіни, Індонезія, багато країн створюють сонячну й вітрогенерацію, кількість гігаватів у цих країнах просто шалена. Я вірю в плавучі острови в океані, із сонячними станціями. Мені здається, що людство буде приймати цей виклик із нестачею потужності, а вендори чипів з іншого боку будуть іти на енергоощадження. Як це було завжди.
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті.
Хочете повідомити важливу новину? Пишіть у Telegram-бот
Головні події та корисні посилання в нашому Telegram-каналі