Varto
Хочете будувати кар’єру в Data Science та AI? Vodafone Big Data Lab відкриває новий набір —>

Зробити з мухи FPV дрон. Як український розробник замість інтернет-мему навчив мозок комахи керувати БПЛА

Поки мережа розважалася, змушуючи оцифровану нервову систему дрозофіли грати в Minecraft та торгувати криптовалютою, харківський розробник баз даних Дмитро знайшов їй реальне застосування. Він підключив 166 000 віртуальних нейронів до симулятора польоту, де біологічні рефлекси комахи нативно допомагають безпілотнику оминати перешкоди. Поспілкувалися з Дмитром, як йому вдалося навчити муху літати на FPV і чи є в цій технології потенціал для розвитку DefTech технологій.

Залишити коментар
Зробити з мухи FPV дрон. Як український розробник замість інтернет-мему навчив мозок комахи керувати БПЛА

Поки мережа розважалася, змушуючи оцифровану нервову систему дрозофіли грати в Minecraft та торгувати криптовалютою, харківський розробник баз даних Дмитро знайшов їй реальне застосування. Він підключив 166 000 віртуальних нейронів до симулятора польоту, де біологічні рефлекси комахи нативно допомагають безпілотнику оминати перешкоди. Поспілкувалися з Дмитром, як йому вдалося навчити муху літати на FPV і чи є в цій технології потенціал для розвитку DefTech технологій.

Оцифрувати мозок мухи

Нещодавно науковий світ стали свідками монументального прориву у нейробіології. Команда Google Research у співпраці з дослідницьким центром HHMI Janelia Research Campus здійснили те, що раніше здавалося науковою фантастикою: вони повністю відтворили мозок та центральну нервову систему дорослого самця плодової мушки (Drosophila melanogaster).

Ця повна схема зв’язків, або конектом, містить понад 166 000 нейронів та майже 125 мільйонів синаптичних з'єднань. Щоб створити таку мапу, вченим довелося нарізати мозок комахи на 134 000 зрізів товщиною всього 8 нанометрів, відсканувати кожен з них за допомогою електронного мікроскопа, а потім застосувати складні алгоритми штучного інтелекту для об'єднання мільйонів двовимірних зображень у деталізовану 3D-модель.

Опублікований набір даних містить інформацію про 11 691 тип нейронних клітин, що дозволяє відстежити шляхи від зорових рецепторів до моторних нейронів, які відповідають за рух. Раптово будь-хто з доступом до інтернету отримав можливість завантажити повну модель біологічного мозку та використовувати її у власних цілях. Замість того, щоб обмежитися суто академічними дослідженнями, інтернет-спільнота перетворила цю наукову віху на майданчик для цифрових експериментів, поміщаючи "розум" комахи у найрізноманітніші віртуальні середовища.

Зародження fly slop’у

Після публікації мапи мережу дійсно заполонив так званий "fly slop". Ентузіасти почали підключати конектом до симуляторів, змушуючи віртуальну дрозофілу грати в Minecraft, ганяти в Track Mania, і навіть проходити треки в Beat Saber. Один з розробників підключив мозкову активність до управління в грі Doom, де кожен кадр стимулював сенсорні нейрони, а отримання шкоди активувало дофамінові клітини як підкріплення. Інші пішли ще далі: навчили конектом успішно торгувати біткоїном на біржі зі стартовим капіталом у 100 доларів, або ж сортувати електронні листи за шістьма категоріями з точністю близько 80%.

 "Меми з мухою заполонили стрічку, напевно я навіть не бачив більшу частину, тому що вони з’являються сотнями кожного дня, в першу чергу тому що будь-хто може сформулювати задачу для ШІ та за кілька хвилин згенерувати візуалізацію в якій муха керує навантажувачем чи женеться за бананом. Напевно першим прикладом, який мені трапився, був "Муха грає в Beat Saber", він запам’ятався найбільше.

Випадок з DOOM можна вважати улюбленим вже тільки тому, що я обожнюю спостерігати за фантазією людей, які запускають гру на електричних зубних щітках чи електронних тестах на вагітність, але ще і тому, що, якщо вірити розробнику, то він пішов приблизно тим самим шляхом, що і я», — розповідає Дмитро, розробник баз даних з Харкова з понад десятирічним досвідом та профільною освітою за спеціальністю «Системи штучного інтелекту». 

Однак за цими віральними кейсами криється важливий технічний нюанс. Як пояснив Дмитро у більшості таких розважальних проєктів біологічна сутність конектома повністю нівелюється, оскільки розробники використовують мапу лише як статичний каркас для штучної нейромережі, де всі ваги зв’язків встановлюються однаковими, а потім перенавчаються алгоритмом для виконання специфічних завдань (наприклад, натискання кнопок миші). У таких випадках муха технічно нічим не "керує" усвідомлено, а її зорова система та внутрішній досвід взагалі не задіяні — це просто математична абстракція, натягнута на біологічну схему. 

«Зараз в мережі проходить неоголошене трендове онлайн-змагання: хто навчить не будь-яку нейромережу, а саме мережу на основі конектому мухи робити найбільш абсурдні та смішні речі. В цих проєктах зазвичай не лишається абсолютно нічого від самої мухи, конектом використовується як макет статичних зв’язків нейронної мережі, яка повністю перенавчається користувачем (ваги з'єднань змінюються до невпізнаваності), через що біологічне значення конкретних нейронних шляхів затирається і переписується. У тому ж криптотрейдингу немає нічого, що мозок мухи міг би "зрозуміти". Іноді конектом мухи взагалі слугує пропускним шаром для іншої спеціалізованої нейромережі, яка робить всю роботу… Будь-яка навчена синтетична мережа без біологічної основи дала б схожий результат», — пояснює Дмитро.

Перетворити муху на FPV дрон

Спостерігаючи за цим трендом, Дмитро вирішив піти кардинально іншим, значно складнішим шляхом. Замість того, щоб перенавчати нейромережу і перетворювати її на класичний алгоритм машинного навчання, він поставив за мету використати вивірені мільйонами років еволюції біологічні рефлекси комахи для управління FPV дроном. У природі муха ідеально адаптована до польоту: її візуальні системи миттєво реагують на загрози та перешкоди, передаючи сигнали до моторних нейронів. Дмитро вирішив помістити конектом у віртуальний простір симулятора і наблизити стимуляцію її зору до природних умов. 

«Напевно саме тоді, коли "поліз в коментарі" пояснювати, як всі згадані проєкти насправді працювали, дивився на візуалізації нейронних активацій, і своє взяла цікавість і давно забута освіта. А що, якщо не перенавчати конектом взагалі та не спотворювати його, а лише помістити його у віртуальний простір, що стимулюватиме зір мухи наближеним чином до того, як це відбувається в природі, і адаптувати моторні рефлекси до керування дроном?", — поділився Дмитро.

Ключовим елементом системи стала прив’язка управління до специфічних нейронів зорового тракту — LPLC2 та LC4. Ці клітини відіграють роль детекторів наближення: вони різко активуються, коли в полі зору з’являється об'єкт, що стрімко збільшується в розмірах (наприклад, дерево на шляху дрона). Зчитуючи сигнали з цих нейронів, система модулює осі управління, автоматично змушуючи "муху" виконувати маневри крену та рискання, оминаючи перешкоди в симуляції. Коли крона дерева перекриває праве поле зору, нейронний ланцюжок нативно відтворює рефлекс втечі, генеруючи різкий імпульс для ухилення вліво.

"У мухи є нейронні зв’язки, які автоматично реагують на контрастні об'єкти, що швидко збільшуються в полі зору (LPLC2, LC4), а потім в сумі своїх активацій "тригерять" наступні нейрони в черевному нервовому ланцюжку, що ведуть до моторних відповідей у вигляді зльоту чи ухилення від загроз в польоті.

Інші структури мозку змушують дрозофілу стабілізувати своє поле зору і політ. Відслідковувати рухомі об'єкти шириною не більше однієї фасетки ока (поведінки залицяння, пошук пари).

Якщо конектом щось і вміє «нативно», то саме те, що робить муха. Мені здалось, що задіяти його саме для керування літаючим дроном було б щонайменше…елегантно. Після публікації перших результатів мені запам’ятався один отриманий коментар на японському, в якому прозвучало лаконічне схвалення "в цьому прикладі ставлення до мухи найменш негідне", на тлі деяких обговорень про моральність використання моделі мозку живої істоти для неприродних речей", — розповів Дмитро.

Технічна реалізація цього концепту вимагала глибокого розуміння анатомії дрозофіли. Розробник змоделював складне око комахи, що складається з 1 769 фасеток, спираючись на мапу колонок ока з бази Google. Відеопотік із симулятора дрона розкладається на ліву та праву частини, пікселізується і подається безпосередньо у віртуальні фоторецептори, після чого сигнал самостійно поширюється оптичними долями мозку без жодного штучного втручання. Дрон управляється виключно низхідними моторними нейронами (descending motor neurons), які передають команди до крил і шиї у відповідь на оптичний потік.

Для стабілізації польоту Дмитро також симулював оцелії — три простих ока на тімені мухи, які реагують на рівень освітленості горизонту. Коли дрон завалюється, ці сенсори активують оцелярні нейрони, а ті передають імпульс до шийних мотонейронів (CvN5–7), запускаючи рефлекс вирівнювання тіла. Окрема проста нейромережа виступає в ролі "зчитувача", сумуючи ці імпульси в чотири зрозумілі для БПЛА канали: крен, тангаж, рискання та газ. Вражаюче, але вся ця масивна симуляція мозку на 166 000 нейронів працює без дорогих серверів і запускається на звичайному домашньому комп’ютері з процесором Intel Core i7-3770K та 16 ГБ оперативної пам’яті, а для прискорення написання коду розробник частково використовував ШІ-асистента Claude Code.

«Поки що я додатково стимулюю значення потрібної висоти, щоб утримувати муху на рівні дерев і будівель та спостерігати за навігацією з перешкодами в симуляторі на цій висоті. Це найбільш експериментальна частина, яка постійно змінюється і перенавчається мною через додавання нових нейронів в симуляцію, в яку я ще планую інтегрувати сигнали від акселерометра/лідара/альтиметра та стимулювати антенки мухи та інші органи, що вимірюють кутові прискорення. Дуже цікаво, що вийде, якщо муха отримає ще і синтетичні відчуття простору, та спостерігати, чи зможу я декодувати щось з отриманих сигналів від сенсорних нейронів в конектомі», — зазначив Дмитро.

Попри успішні перші польоти, робота з чистим конектомом приховує серйозні виклики, головний з яких полягає у складності цифрової симуляції тонких біологічних та хімічних процесів. Наприклад, нейрони сімейства LC11 у живій природі відповідають за реакцію на дрібні рухомі об'єкти, ігноруючи великі статичні смуги, такі як стовбури дерев. Проте у спрощеній комп’ютерній моделі досягти такого правильного оптичного фільтрування вкрай важко через відсутність коректного механізму гальмування.

Без фізичного моделювання просторового розташування дендритів і синапсів, а також без урахування хімічних затримок у передачі нейромедіаторів, деякі клітини поводяться не так, як у реальної мухи. Як зазначив Дмитро ця фундаментальна проблема доводить, що повна симуляція роботи мозку на звичайному обладнанні без спеціалізованої акселерації залишається неймовірно складним завданням. Тим не менш, той факт, що навіть "урізана" біологічна схема здатна нативно генерувати команди для ухилення від перешкод, є величезним досягненням сучасної науки.

«Найбільше мене вразило, що навіть у вкрай спрощеній моделі збереглися базові польотні рефлекси. Нейрони, які реагують на наближення об'єкта, спрацьовують з правильного боку, а шлях від оцелій до низхідних нейронів шиї дійсно "кодує" нахил горизонту. Автопілотом із коробки це ще не є, але фундамент закладений природою навіть у самій схемі з'єднань, і його не треба вигадувати. Це заслуга численних дослідників і дослідниць, які роками реконструювали кожен нейрон і кожен синапс в цій моделі до найменших деталей. Без їхньої титанічної роботи такі експерименти були б неможливі», — зазначив Дмитро.

Майбутнє цифрових мізків

Окрім суто дослідницького інтересу, подібні симуляції відкривають абсолютно нові перспективи для розвитку автономних систем, що є особливо актуальним для сфери Defense Tech. Комахи орієнтуються в надзвичайно складному просторі, не використовуючи енергозатратні лідари чи GPS-навігацію, покладаючись виключно на аналіз оптичного потоку. Перенесення цих еволюційних алгоритмів у світ безпілотної авіації може зробити революцію у розробці БПЛА.  

Як розповів Дмитро кілька років тому вчені з Тайваню почали роботу над створенням мікрочипа, натхненного зоровою системою дрозофіли, який мав би обчислювати рефлекси ухилення безпосередньо в оперативній пам’яті камери (compute-in-memory). Такий підхід не потребує розгортання "важких" нейромереж машинного зору і є неймовірно енергоефективним. У контексті створення українських автономних дронів-перехоплювачів або БПЛА, стійких до засобів РЕБ, такі біологічні "мікроконтролери", реалізовані на базі FPGA, можуть забезпечити блискавичну рефлекторну реакцію на загрози, спираючись виключно на специфікації, які природа тестувала мільйони років. 

«Для мене це більше цікавий проект на вихідні, але вважаю, що деякі біологічні принципи навігації або захисних поведінок можуть бути корисними для дронів в цілому в певних нішах: уникнення перешкод без активних сенсорів, утримання напрямку польоту на чистому оптичному потоці без мапи. Відповідь на атаки дрона-перехоплювача? Можливо, такі системи можуть існувати на FPGA або як "compute-in-memory" та працювати автономно від більш складних засобів машинного зору, на низькому рівні, рефлекторному. Цінність досліджень комах тут полягає в специфікаціях їх "контролерів", вивірених мільйонами років еволюції. З них можна вилучити архітектуру потрібного нам рефлексу й перенести її у маленьку спеціалізовану схему», — підсумував український розробник. 

«Без технічних спеціалістів армія починає сипатися». Начальник безпілотних систем Третього армійського корпусу — про те навіщо 3АК айтівці і як туди потрапити
«Без технічних спеціалістів армія починає сипатися». Начальник безпілотних систем Третього армійського корпусу — про те, навіщо 3АК айтівці і як туди потрапити
По темi
«Без технічних спеціалістів армія починає сипатися». Начальник безпілотних систем Третього армійського корпусу — про те, навіщо 3АК айтівці і як туди потрапити
«Я беру реальний дрон і просто спалюю його. Саме такі речі формують межу між грою та симуляцією». Історія створення найхардкорнішого симулятора БПЛА для фронту в інтервю зі співзасновниками Simtech Solutions
«Я беру реальний дрон і просто спалюю його. Саме такі речі формують межу між грою та симуляцією». Історія створення найхардкорнішого симулятора БПЛА для фронту в інтерв’ю зі співзасновниками Simtech Solutions
По темi
«Я беру реальний дрон і просто спалюю його. Саме такі речі формують межу між грою та симуляцією». Історія створення найхардкорнішого симулятора БПЛА для фронту в інтерв’ю зі співзасновниками Simtech Solutions
«Гра давала розуміння з чим доведеться працювати в реальності». Інтервю з артилеристом ЗСУ про гейміфікацію в Силах оборони
«Гра давала розуміння, з чим доведеться працювати в реальності». Інтерв’ю з артилеристом ЗСУ про гейміфікацію в Силах оборони
По темi
«Гра давала розуміння, з чим доведеться працювати в реальності». Інтерв’ю з артилеристом ЗСУ про гейміфікацію в Силах оборони
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.