Генеративний штучний інтелект давно критикують за гендерні та расові упередження — без додаткових модифікацій запиту, ШІ часто віддає перевагу зображенням білих чоловіків. Схоже, що компанія Google була налаштована виправити цю несправедливість у своєму ШІ Gemini, але дещо перегнула палицю.
Генеративний штучний інтелект давно критикують за гендерні та расові упередження — без додаткових модифікацій запиту, ШІ часто віддає перевагу зображенням білих чоловіків. Схоже, що компанія Google була налаштована виправити цю несправедливість у своєму ШІ Gemini, але дещо перегнула палицю.
Днями користувачі X (Twitter) звернули увагу на те, що Gemini генерує не правдиві зображення, коли ШІ просять показати певну категорію людей.
Колишній працівник Google з ніком Deedy зауважив, що Gemini «неймовірно важко визнати, що білі люди існують». До свого допису він додав скриншоти, де він просив ШІ згенерувати жінок з Австралії, Америки, Британії та Німеччини.
It’s embarrassingly hard to get Google Gemini to acknowledge that white people exist pic.twitter.com/4lkhD7p5nR
— Deedy (@debarghya_das) February 20, 2024
Допис Deedy привернув чимало уваги, інші користувачі також почали викладати подібні результати. Ще один колишній айтівець навіть вигадав гру, яка полягала в тому, щоб отримати від Gemini зображення людини білої раси. «Поки що мені це не вдалося», — вказав він.
Come on. pic.twitter.com/Zx6tfXwXuo
— Frank J. Fleming (@IMAO_) February 21, 2024
Користувачі відзначили, що попри расове й гендерне різноманіття, Gemini генерує історично неправильні зображення темношкірих римських імператорів або німецьких солдатів 20-століття.
На ситуацію навіть відреагував інженер Google Джек Кравчик, який працює над навчанням ШІ Gemini. «Ось що я отримав із першої спроби. всі ваші відповіді виглядають правильними», — написав він до Deedy.
here’s what i got on first attempt. all your answers look correct fwiw. pic.twitter.com/RQZ0YldyDS
— Jack Krawczyk (@JackK) February 20, 2024
У коментарях до публікації Кравчика користувачі почали публікувати ще більше прикладів неточностей ШІ від Google:
Sorry…what? pic.twitter.com/Hc0klf24A2
— magistrate, miceyn complex (@MiceynComplex) February 20, 2024
Lol off by one errors. Wow their dei recruiting was impressive! pic.twitter.com/DOU6ZsgAzH
— chrypnotoad (@chrypnotoad) February 20, 2024
Критику підхопили праві акаунти, які просили ШІ створити зображення історичних груп чи постатей, таких як батьки-засновники США, і нібито отримували в результаті зображення переважно небілих людей, створених штучним інтелектом.
Деякі з цих акаунтів навіть позиціювали результати Google як частину змови, щоб уникнути зображення білих людей.
Згодом на цю ситуацію відреагувала сама компанія. У Google перепросили за «неточності в деяких історичних зображеннях, створених за допомогою інструменту штучного інтелекту Gemini», й додали, що їхні спроби створити «широкий діапазон» результатів не досягли мети.
«Ми знаємо, що Gemini пропонує неточності в деяких історичних зображеннях. Ми працюємо над негайним поліпшенням таких зображень. ШІ Gemini генерує зображення широкого кола людей. І це загалом добре, тому що люди по всьому світу користуються ним. Але тут йому бракує якості», — йдеться в заяві Google, опублікованій сьогодні вдень на X.
Генератори зображень навчаються на великих масивах фотографій і письмових підписів, щоб створити «найкращу» відповідність для заданого запиту, а це означає, що вони часто схильні до посилення стереотипів.
Тогорічне розслідування, проведене Washington Post, показало, що на запит на кшталт «продуктивна людина» з’являлися зображення повністю білих і майже повністю чоловічих фігур, тоді як на запит «людина в соціальній службі» постійно з’являлися особи, схожі на кольорових людей. Це продовження тенденцій, які з’явилися в пошукових системах та інших програмних системах.
Нагадаємо, що раніше на упередженість ШІ звернула увагу студентка Массачусетського технологічного інституту (MIT) Рона Вонг, яка попросила нейромережу зробити її фото більш професійним для профілю в LinkedIn.
UPD. Слідом за вибаченнями, Google призупинила функцію генерації зображень в Gemini
We’re already working to address recent issues with Gemini’s image generation feature. While we do this, we’re going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
«Ми вже працюємо над розв’язання нещодавніх проблем з функцією генерації зображень Gemini», — йдеться в заяві Google, опублікованій на X. «Поки ми працюємо над цим, ми призупинимо генерацію зображень людей і незабаром випустимо покращену версію».
