Сучасні нейромережі здатні створювати фантастичні зображення, особливо якщо їм задати правильну команду. Але ШІ все ще може стикатися з проблемами буквально на рівному місці.
Як у випадку, коли доктор Деніел Хук попросив нейромережу Midjourney зробити «один банан, що відкидає тінь на сірий фон», але ШІ щоразу видавав зображення з двома бананами.
Сучасні нейромережі здатні створювати фантастичні зображення, особливо якщо їм задати правильну команду. Але ШІ все ще може стикатися з проблемами буквально на рівному місці.
Як у випадку, коли доктор Деніел Хук попросив нейромережу Midjourney зробити «один банан, що відкидає тінь на сірий фон», але ШІ щоразу видавав зображення з двома бананами.
Ця проста похибка настільки зацікавила науковця, що він провів кілька тижнів, бомбардуючи нейромережу різними варіаціями свого запиту, намагаючись отримати один єдиний банан. І йому це зрештою вдалося.
Чому цей експеримент був важливий, Хук написав у публікації для журналу Digital Science, яка вийшла під заголовком «Проблема самотнього банана».
За словами вченого, коли всі 4 первинних зображення містили більше одного банана, він подумав, що припустився помилки, і почав пробувати інші формулювання.
Але ні «ідеальний стиглий банан на чистому сірому тлі, що відкидає легку тінь, гіперреалістичний», як і «один ідеальний стиглий банан на чистому сірому тлі, що відкидає легку тінь, гіперреалістичний фотографічний» та навіть «ОДИН ідеальний банан на однорідній світло-сірій поверхні, знятий зверху, гіперреалістичний фотографічний» не дали необхідного результату. На всіх фотографіях зображено два або більше бананів.
Прохання додати «невидимих мавп», які б тримали один банан, також не допомогли. Ще й мавпи виходили дуже навіть помітними, а інколи мали банановий колір. Інопланетяни також не міняли ситуацію.
Бажану кількість бананів дав лише промт «Один банан сам по собі відкидає тінь на сірому тлі» (A single banana on its own casting a shadow on a grey background).
На думку Деніела Хука — це яскравий приклад того, наскільки сучасні генеративні нейромережі недосконалі. Результати їхньої роботи можуть вражати, але такі помилки вказують на істотні прогалини в технології.
«ШІ на нинішньому рівні розвитку не сприймають об'єкти так, як це робимо ми — вони розуміють закономірності, що часто зустрічаються. Їхня реальність принципово відрізняється від нашої — вона народжується не у фізичному світі, а в логічному», — пояснює Хук
За його словами, з розвитком ШІ людям стає все легше з ними взаємодіяти, виникає враження, що вони розуміють. Та все ж, «без відчуття фізичного світу ШІ має проблеми з концепцією одного банана».
«Усвідомлення того, що ШІ не розуміє реальний світ і людей так, як ми, є важливим кроком», — говорить Деніел Хук. Це необхідно для взяття на себе відповідальності за розвиток цих технологій при створенні нових інструментів.
Як експеримент ми попросили нейромережу DALL-E згенерувати «A single banana casting a shadow on a grey background». І ШІ, який значно поступається Midjourney в створенні зображень, одразу видав картинку з чотирма чудовими бананами.
Висновки лишаємо на ваш розсуд.
