Глибокі згорткові нейронні мережі (DCNN) не бачать об’єкти так, як це бачать люди, — за допомогою конфігураційного сприйняття форми. І це створює небезпеку для реальних програм штучного інтелекта, доводить професор Джеймс Елдер з Йоркського університету.
Глибокі згорткові нейронні мережі (DCNN) не бачать об’єкти так, як це бачать люди, — за допомогою конфігураційного сприйняття форми. І це створює небезпеку для реальних програм штучного інтелекта, доводить професор Джеймс Елдер з Йоркського університету.
Спільне дослідження Елдера, який в Йорку очолює кафедру досліджень людського та комп’ютерного зору, та професора психології Ніколаса Бейкера з Лойола-коледжу в Чикаго, було публіковано в журналі Cell Press iScience під назвою «Моделі глибокого навчання не в змозі вловити конфігураційну природу сприйняття форми людини».
Дивіться, в чому суть. Усі об’єкти мають локальні та конфігураційні властивості форми. Локальна властивість — це якийсь шматок, за яким ми можемо розпізнати ціле.
Скажімо, у кроликів є характерні вуха — це їх чітка локальна властивість.
Конфігураційна властивість форми — це просторовий зв’язок усіх шматків в єдине ціле. Логічний зв’язок. Якщо у кролика вуха замість лап, може, це взагалі тюлень?
Людина досить швидко розуміє, коли бачить щось реально дивне. А як з цим у нейромереж?
Щоб провести дослідження, вчені створили нові візуальні стимули — їх назвали «Франкенштейни» — щоб дослідити, як людський мозок і DCNN обробляють цілісні конфігураційні властивості об’єктів.
«Франкенштейни — це об’єкти, які були розібрані та зібрані не так, як треба, — каже Елдер. — Як результат, вони мають усі правильні локальні особливості, але в неправильних місцях».
Коли люди бачать «Франкенштейна», вони «спотикаються», розуміючи: щось не так. Натомість, DCNN чітко дають відповідь, що це за об’єкт, виявляючи нечутливість до конфігураційних властивостей об’єктів. Якщо дуже грубо, нейромережі «вважають», що об’єкт — це сукупність його властивостей, і не дуже важливо, в якому порядку вони поєднані.
«Наші результати пояснюють, чому глибокі моделі штучного інтелекту дають збій за певних умов, — каже Елдер. — Глибокі моделі, як правило, використовують „ярлики“ під час вирішення складних завдань розпізнавання. Хоча ці ярлики можуть працювати в багатьох випадках, вони можуть бути небезпечними в деяких реальних програмах штучного інтелекту, над якими ми зараз працюємо з нашими галузевими та державними партнерами», — зазначає Елдер.
Одне з таких застосувань — це системи відеоспостереження за дорожнім рухом.
«Об’єкти на сцені жвавого дорожнього руху — транспортні засоби, велосипеди та пішоходи — заважають один одному та потрапляють на очі водієві як купа роз’єднаних фрагментів, — пояснює Елдер. — Мозок повинен правильно згрупувати ці фрагменти, щоб визначити правильні категорії та розташування об’єктів. Система штучного інтелекту для моніторингу безпеки дорожнього руху, яка здатна сприймати лише окремі фрагменти, не впорається з цим завданням, потенційно неправильно розуміючи ризики для вразливих учасників дорожнього руху».
Причому, ось що цікаво: зробити модель більш схожою на мозок — не допомогло.
«Архітектура стандартних DCNN набагато простіша, ніж у зорової кори. Обробка є прямою, систематично проходячи від дрібних до грубих масштабів, із глобальними взаємодіями, обмеженими кінцевими шарами. Навпаки, зорова кора має масивні повторювані та пропускаючі зв’язки, які мають потенціал для об’єднання глобальної та локальної інформації на ранніх стадіях обробки, що може мати вирішальне значення для конфігураційного сприйняття», — йдеться у дослідженні.
Оскільки дані нейрологічних досліджень свідчать, що повторювані зв’язки в зоровій корі важливі для розпізнавання об’єктів і для захоплення довгострокових просторових залежностей, що лежать в основі конфігураційного сприйняття, вчені вирішили повторити експеримент на CORnet, періодичній DCNN, натхненній архітектурою вентрального потоку приматів.
Мережа складається з чотирьох шарів, які приблизно відповідають зонам вентрального потоку V1, V2, V4 та IT зорової кори приматів. На відміну від стандартних DCNN з прямим зв’язком, CORnet включає повторювані з’єднання, які повертають вихід кожного рівня назад на його вхід кілька разів перед тим, як перейти до наступного рівня.
Але CORnet не зрівнявся з людиною і був слабшим за деякі інші мережі.
«Обробка об’єктів у корі головного мозку приматів, ймовірно, підтримує не лише розпізнавання класу об’єкта, але й різноманітні фізичні судження про об’єкт, включаючи його 3D-місцезнаходження та орієнтацію відносно спостерігача та об’єктів навколо нього, його 3D-форму та розмір, і його фізичний стан (наприклад, цілий або фрагментований). Такого роду просторові завдання, швидше за все, не так легко вирішити шляхом підсумовування локальних особливостей», — пояснюють це дослідники.
Тобто, може копіювання мозку і працює — просто потрібно копіювати більше мозку.
