The New York Times опублікувала великий матеріал про те, як штучний інтелект змінює роботу дронів на війні та дозволяє створити повністю автономну та автоматичну зброю. У тексті — чимало про розробки українських інженерів. Переповідаємо матеріал американських колег.
The New York Times опублікувала великий матеріал про те, як штучний інтелект змінює роботу дронів на війні та дозволяє створити повністю автономну та автоматичну зброю. У тексті — чимало про розробки українських інженерів. Переповідаємо матеріал американських колег.
У полі на околиці Києва засновники української компанії «Вирій», яка займається розробкою безпілотників, нещодавно працювали над зброєю майбутнього. Аби продемонструвати свою роботу, 25-річний Олексій Бабенко, генеральний директор «Вирію», сів на мотоцикл і поїхав ґрунтовою дорогою. Позаду нього їхав дрон, а його колега відстежував рухи за допомогою комп’ютера розміром з портфель. Система «Вирій» використовує автономне відстеження для фіксації на цілі.
Донедавна квадрокоптером керувала людина. Але зараз ситуація змінилась — після того, як дрон зафіксував свою ціль — пана Бабенка — він полетів сам, керуючись програмним забезпеченням, яке використовувало камеру машини для відстежування.
Ревучий двигун мотоцикла не міг зрівнятися з безшумним дроном, який переслідував пана Бабенка. «Штовхай, штовхай більше. Тисни на педалі до упору, чувак», — кричали його колеги по рації, коли безпілотник наближався до нього. «Тобі кінець, кінець!».
Якби дрон був начинений вибухівкою, і якби його колеги не відключили автономне стеження, пан Бабенко був би мертвий.
«Вирій» — лише одна з багатьох українських компаній, що працюють над значним стрибком у озброєнні, зумовленим війною з росією. Тиск, що змушує перевершити ворога, а також величезні потоки інвестицій, пожертвувань і державних контрактів перетворили Україну на Кремнієву долину для автономних дронів та інших видів озброєнь.
Компанії створюють технологію, яка робить людське судження про вибір цілі та ведення вогню все більш опосередкованим. Широка доступність готових пристроїв, простого в розробці програмного забезпечення, потужних алгоритмів автоматизації та спеціалізованих мікросхем штучного інтелекту підштовхнула смертельні інноваційні перегони на незвідану територію, підживлюючи потенційну нову еру роботів-вбивць.
Найсучасніші версії технології, яка дозволяє дронам та іншим машинам діяти автономно, стали можливими завдяки глибинному навчанню — формі штучного інтелекту, яка використовує великі обсяги даних для виявлення закономірностей і прийняття рішень. Глибинне навчання допомогло створити популярні великі мовні моделі, такі як GPT-4 від OpenAI, але воно також допомагає моделям інтерпретувати і реагувати в реальному часі на відео- та фотоматеріали. Це означає, що програмне забезпечення, яке колись допомагало дрону слідувати за сноубордистом, що спускається з гори, тепер може стати смертельно небезпечним інструментом.
У більш ніж десятках інтерв’ю з українськими підприємцями, інженерами та військовими з’явилася картина недалекого майбутнього, коли рої самокерованих дронів зможуть координувати атаки, а кулемети з комп’ютерним зором зможуть автоматично збивати солдатів. Розробляються і більш дивовижні творіння, такі як безпілотний коптер, що ширяє і має кулемети.
Ця зброя грубіша, ніж витончені штучки з науково-фантастичних блокбастерів, таких як «Термінатор» і його рідкометалевий вбивця Т-1000, але вона є кроком до такого майбутнього. Хоча ця зброя не настільки досконала, як дорогі системи військового класу, вироблені США, Китаєм і росією, їхня вартість — лише тисячі доларів або менше. І вони відразу готові до використання.
За винятком боєприпасів, багато з цих озброєнь побудовані з використанням коду, знайденого в Інтернеті, та аматорських комп’ютерів накшталт Raspberry Pi, які можна купити в магазині Best Buy і в будівельних магазинах. Деякі американські чиновники заявили, що стурбовані тим, що ці можливості незабаром можуть бути використані для здійснення терористичних атак.
Для України ці технології можуть дати перевагу над росією, яка також розробляє автономні гаджети-вбивці, або просто допомогти їй не відставати від неї.
Ці системи підвищують ставки в міжнародній дискусії про етичні та правові наслідки застосування штучного інтелекту на полі бою. Правозахисні групи та представники ООН прагнуть обмежити використання автономної зброї, побоюючись, що вона може спровокувати нову глобальну гонку озброєнь, яка може вийти з-під контролю.
В Україні такі побоювання є вторинними по відношенню до боротьби з окупантом.
«Нам потрібна максимальна автоматизація», — каже Михайло Федоров, міністр цифрової трансформації України. — Ці технології мають фундаментальне значення для нашої перемоги».
Автономні безпілотники, такі як «Вирій», вже використовувалися в боях для ураження російських цілей, за словами українських офіційних осіб і відео, підтверджених The New York Times.
У напівзруйнованій майстерні в багатоквартирному будинку на сході України 28-річний солдат 92-ї штурмової бригади Дев допоміг просунути інновації, які перетворили дешеві дрони на зброю. Спочатку він прив’язав бомби до гоночних дронів, потім додав більші акумулятори, щоб допомогти їм літати далі, а нещодавно вмонтував систему нічного бачення, щоб машини могли полювати в темряві.
У травні він був одним з перших, хто використав автономні дрони, в тому числі й «Вирій». За словами Дева, хоча деякі з них потребують вдосконалення, він вірить, що вони стануть наступним великим технологічним стрибком на передовій.
За його словами, автономні дрони «вже користуються великим попитом». Ці апарати були особливо корисними в боротьбі з перешкодами, які можуть перервати зв’язок між безпілотником і пілотом. Коли безпілотник летить сам, пілот може просто зафіксувати ціль і дозволити апарату зробити все інше.
По всій Україні з’явилися імпровізовані заводи і лабораторії, які будують дистанційно керовані машини всіх розмірів, від літаків дальньої авіації і бойових катерів до дешевих дронів-камікадзе — FPV, тому що ними керує пілот в окулярах віртуальної реальності, які дають вигляд з борту дрона. Багато з них є попередниками машин, які з часом будуть діяти самостійно.
Зусилля з автоматизації польотів FPV почалися минулого року, але були сповільнені невдачами у створенні програмного забезпечення для управління польотами, за словами пана Федорова. Міністр пообіцяв, що ці проблеми були вирішені. Наступним кроком буде масштабування технології за рахунок збільшення державних витрат, сказав він, додавши, що близько 10 компаній вже виробляють автономні дрони.
«У нас вже є системи, які можна виробляти серійно, і вони зараз широко випробовуються на передовій, а це означає, що вони вже активно використовуються», — сказав пан Федоров.
Деякі компанії, як «Вирій», використовують базові алгоритми комп’ютерного зору, які аналізують та інтерпретують зображення і допомагають комп’ютеру приймати рішення. Інші компанії підходять до цього більш складно, використовуючи глибоке навчання для створення програмного забезпечення, яке може ідентифікувати та атакувати цілі. Багато компаній заявили, що беруть дані і відео з льотних симуляторів і польотів безпілотників на передовій.
Один з українських виробників безпілотників, компанія Saker, створила автономну систему наведення з процесами штучного інтелекту, спочатку призначену для сортування і класифікації фруктів. Взимку компанія почала відправляти свою технологію на передову, випробовуючи різні системи з пілотами дронів. Попит стрімко зріс.
До травня Saker масово виробляла одноплатні комп’ютери з програмним забезпеченням, які можна було легко встановити на безпілотники FPV, щоб вони могли автоматично наводитися на ціль, розповів виконавчий директор компанії, який попросив називати його тільки на ім’я Віктор, побоюючись помсти з боку hосії.
За його словами, безпілотник врізається в ціль «і все». «Він протистоїть вітру. Він стійкий до перешкод. Ви просто повинні точно визначити, що ви збираєтеся вразити», — пояснив Віктор.
Зараз Сакер виготовляє 1000 плат на місяць і планує збільшити виробництво до 9000 плат на місяць до кінця літа. Кілька українських військових підрозділів вже вразили російські цілі на лінії фронту за допомогою технології Saker, згідно з даними компанії та відео, підтвердженими The Times.
За словами Віктора, в останні тижні Saker пішов далі, успішно використовуючи розвідувальний безпілотник, який ідентифікував цілі за допомогою штучного інтелекту, а потім відправляв автономні безпілотники-камікадзе для знищення. В одному випадку система вразила ціль на відстані 25 миль.
«Коли ми дійдемо до того, що нам не вистачатиме людей, єдиним рішенням буде замінити їх роботами», — сказав Ростислав, співзасновник Saker, який також попросив називати його тільки на ім’я.
Спекотного дня минулого місяця у східному регіоні України, відомому як Донбас, Юрій Клонцак, 23-річний резервіст, навчав чотирьох солдатів користуватися новітньою футуристичною зброєю: кулеметною туреллю з автономним наведенням, яка працює за допомогою контролера PlayStation і планшета.
Говорячи на фоні вибухів обстрілів, пан Клонцак пояснив, як гармата, названа Wolly через схожість з піксарівським роботом WALL-E, може автоматично наводитися на ціль на відстані до 1000 метрів і стрибати між запрограмованими позиціями, щоб швидко охопити велику територію. Компанія DevDroid, яка виробляє зброю, також розробляла систему автоматичного прицілювання для відстеження та ураження рухомих цілей.
«Коли я вперше побачив зброю, я був зачарований, — каже Клонцак. — Я зрозумів, що це єдиний спосіб якщо не виграти цю війну, то принаймні утримати наші позиції».
Ця гармата — одна з кількох, що з’явилися на передовій і використовують програмне забезпечення зі штучним інтелектом для автоматичного відстежування та стрільби по цілях. Подібно до ідентифікації об'єктів у камерах спостереження, програмне забезпечення на екрані оточує людей та інші потенційні цілі цифровою рамкою. Все, що залишається зробити стрільцю — це дистанційно натиснути на спусковий гачок за допомогою контролера для відеоігор.
Поки що виробники зброї кажуть, що не дозволяють кулемету стріляти без натискання кнопки людиною. Але вони також запевняють, що буде легко зробити такий, що стрілятиме.
Багато українських інновацій розробляються для того, щоб протистояти російському озброєнню, що прогресує. Українські солдати з кулеметами є головною мішенню для атак російських безпілотників. З робототехнічною зброєю жодна людина не загине, якщо в неї влучить кулемет. Нові алгоритми, які все ще розробляються, можуть з часом допомогти кулеметам збивати російські безпілотники з неба.
Такі технології, а також можливість швидко створювати і випробовувати їх на передовій, привертають увагу і інвестиції з-за кордону. Минулого року Ерік Шмідт, колишній виконавчий директор Google, та інші інвестори створили фірму під назвою D3 для інвестування в нові технології поля бою в Україні. Інші оборонні компанії, такі як Helsing, також об'єднуються з українськими фірмами.
Українські компанії розвиваються швидше, ніж їхні закордонні конкуренти, вважає Евеліна Бучацька, керуючий партнер D3, додавши, що фірма запрошує компанії, в які вона інвестує за межами України, відвідати країну, щоб вони могли прискорити свій розвиток. «Тут просто інший набір стимулів», — каже вона.
Часто потреби поля бою об'єднують інженерів і солдатів. Олександр Ябчанка, командир батальйону «Вовки Да Вінчі», відомого своїми інноваціями в озброєнні, згадує, як необхідність захистити «дорогу життя» — маршрут, яким постачалися війська, що воювали з росіянами вздовж східної лінії фронту в Бахмуті — підштовхнула його до винахідництва. Уявивши собі рішення, він розмістив у Facebook відкритий запит на створення комп’ютеризованого кулемета з дистанційним керуванням.
За кілька місяців пан Ябчанка отримав робочий прототип від фірми під назвою Roboneers. Кулемет майже миттєво став у пригоді його підрозділу.
«Ми могли сидіти в окопі, пити каву, курити цигарки і стріляти по росіянах», — каже він.
Пізніше внесок пана Ябчанки допоміг «Розбійникам» розробити новий вид зброї. Компанія встановила кулеметну турель на наземний безпілотник, щоб допомогти військам здійснювати штурми або швидко змінювати позиції. За словами виконавчого директора Roboneers Антона Скрипника, це застосування призвело до зростання потреби в автоматичному прицілюванні на основі штучного інтелекту. Подібні партнерства сприяли іншим досягненням. У травні на полігоні безпілотників Swarmer, інша місцева компанія, провела відеодзвінок з військовою частиною, щоб ознайомити солдатів з оновленнями свого програмного забезпечення, яке дозволяє дронам здійснювати ройові атаки без пілота.
Українська компанія Swarmer розробила програмне забезпечення на основі моделі штучного інтелекту, яка була навчена на великій кількості даних про місії безпілотників на передовій. Програмне забезпечення компанії Swarmer, яку минулого року заснував колишній інженер Amazon Сергій Купрієнко, побудоване на моделі штучного інтелекту, яка навчалася на великих обсягах даних про місії безпілотників на передовій. Він дозволяє одному техніку керувати до семи дронами під час бомбардувань та розвідувальних місій.
Нещодавно Swarmer додав можливості, які дозволяють керувати ударними дронами-камікадзе на відстані до 35 миль. Очікується, що програмне забезпечення, яке тестується з січня, дозволить скоротити кількість людей, необхідних для управління мініатюрними військово-повітряними силами, які домінують на лінії фронту.
Під час демонстрації інженер Swarmer за комп’ютером спостерігав за картою, в той час як шість автономних дронів дзижчали над головою. Один за одним великі дрони-бомбардувальники пролітали над потенційною ціллю і скидали пляшки з водою замість бомб.
За словами пана Купрієнка, деякі пілоти дронів бояться, що їх повністю замінять технології. «Вони кажуть: «О, він і без нас літає. У нас заберуть пульти і дадуть зброю в руки», — сказав він, маючи на увазі переконання, що безпечніше літати на безпілотнику, ніж сидіти в окопі на фронті.
«Але я кажу: «Ні, тепер ви зможете літати з п’ятьма чи десятьма безпілотниками одночасно», — сказав він. «Програмне забезпечення допоможе їм краще воювати».
У 2017 році пан Рассел, дослідник ШІ з Берклі, випустив онлайн-фільм «Забійні боти», який попереджає про небезпеку автономної зброї. У фільмі показано, як блукаючі зграї недорогих озброєних дронів зі штучним інтелектом використовують технологію розпізнавання облич для полювання на цілі та їх знищення.
Те, що відбувається в Україні, наближає нас до цього похмурого майбутнього, вважає пан Рассел. За його словами, його вже переслідують українські відео, на яких солдатів переслідують озброєні безпілотники, пілотовані людьми. Часто буває момент, коли солдати припиняють спроби втекти або сховатися, бо розуміють, що не можуть втекти від безпілотника.
«Їм нікуди йти, тому вони просто чекають смерті», — каже пан Рассел.
Чиновники витратили більше десяти років на обговорення правил використання автономної зброї, але мало хто очікує, що будь-яка міжнародна угода встановить нові правила, особливо в той час, коли США, Китай, Ізраїль, росія та інші країни змагаються в розробці ще більш досконалої зброї. В одній з американських програм, оголошеній у серпні, відомій як ініціатива Replicator, Пентагон заявив, що планує серійне виробництво тисяч автономних безпілотників.
«Спочатку нам потрібно перемогти, — цитує NYT міністра Федорова. — Для цього ми зробимо все можливе, щоб максимально впровадити автоматизацію, щоб зберегти життя наших солдатів».
Хороша стаття