💳 Термінова новина! Trustee Plus — найкраще рішення для розрахунку криптою 👉

UPD. Google просить вибачення за ШІ Gemini, якому важко генерувати зображення білих людей. Компанія тимчасово відключає цю функцію

Генеративний штучний інтелект давно критикують за гендерні та расові упередження — без додаткових модифікацій запиту, ШІ часто віддає перевагу зображенням білих чоловіків. Схоже, що компанія Google була налаштована виправити цю несправедливість у своєму ШІ Gemini, але дещо перегнула палицю.

Залишити коментар
UPD. Google просить вибачення за ШІ Gemini, якому важко генерувати зображення білих людей. Компанія тимчасово відключає цю функцію

Генеративний штучний інтелект давно критикують за гендерні та расові упередження — без додаткових модифікацій запиту, ШІ часто віддає перевагу зображенням білих чоловіків. Схоже, що компанія Google була налаштована виправити цю несправедливість у своєму ШІ Gemini, але дещо перегнула палицю.

Що сталося

Днями користувачі X (Twitter) звернули увагу на те, що Gemini генерує не правдиві зображення, коли ШІ просять показати певну категорію людей. 

Колишній працівник Google з ніком Deedy зауважив, що Gemini «неймовірно важко визнати, що білі люди існують». До свого допису він додав скриншоти, де він просив ШІ згенерувати жінок з Австралії, Америки, Британії та Німеччини.

Допис Deedy привернув чимало уваги, інші користувачі також почали викладати подібні результати. Ще один колишній айтівець навіть вигадав гру, яка полягала в тому, щоб отримати від Gemini зображення людини білої раси. «Поки що мені це не вдалося», — вказав він.

Користувачі відзначили, що попри расове й гендерне різноманіття, Gemini генерує історично неправильні зображення темношкірих римських імператорів або німецьких солдатів 20-століття.

На ситуацію навіть відреагував інженер Google Джек Кравчик, який працює над навчанням ШІ Gemini. «Ось що я отримав із першої спроби. всі ваші відповіді виглядають правильними», — написав він до Deedy.

У коментарях до публікації Кравчика користувачі почали публікувати ще більше прикладів неточностей ШІ від Google:

Критику підхопили праві акаунти, які просили ШІ створити зображення історичних груп чи постатей, таких як батьки-засновники США, і нібито отримували в результаті зображення переважно небілих людей, створених штучним інтелектом.

Деякі з цих акаунтів навіть позиціювали результати Google як частину змови, щоб уникнути зображення білих людей.

Вибачення від Google

Згодом на цю ситуацію відреагувала сама компанія. У Google перепросили за «неточності в деяких історичних зображеннях, створених за допомогою інструменту штучного інтелекту Gemini», й додали, що їхні спроби створити «широкий діапазон» результатів не досягли мети.

«Ми знаємо, що Gemini пропонує неточності в деяких історичних зображеннях. Ми працюємо над негайним поліпшенням таких зображень. ШІ Gemini генерує зображення широкого кола людей. І це загалом добре, тому що люди по всьому світу користуються ним. Але тут йому бракує якості», — йдеться в заяві Google, опублікованій сьогодні вдень на X.

Генератори зображень навчаються на великих масивах фотографій і письмових підписів, щоб створити «найкращу» відповідність для заданого запиту, а це означає, що вони часто схильні до посилення стереотипів.

Тогорічне розслідування, проведене Washington Post, показало, що на запит на кшталт «продуктивна людина» з’являлися зображення повністю білих і майже повністю чоловічих фігур, тоді як на запит «людина в соціальній службі» постійно з’являлися особи, схожі на кольорових людей. Це продовження тенденцій, які з’явилися в пошукових системах та інших програмних системах.

Нагадаємо, що раніше на упередженість ШІ звернула увагу студентка Массачусетського технологічного інституту (MIT) Рона Вонг, яка попросила нейромережу зробити її фото більш професійним для профілю в LinkedIn.

UPD. Слідом за вибаченнями, Google призупинила функцію генерації зображень в Gemini

«Ми вже працюємо над розв’язання нещодавніх проблем з функцією генерації зображень Gemini», — йдеться в заяві Google, опублікованій на X. «Поки ми працюємо над цим, ми призупинимо генерацію зображень людей і незабаром випустимо покращену версію».

Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
Упереджений ШІ — нейромережа змінила расу дівчині яка попросила професійне фото для LinkedIn
Упереджений ШІ — нейромережа змінила расу дівчині, яка попросила професійне фото для LinkedIn
По темi
Упереджений ШІ — нейромережа змінила расу дівчині, яка попросила професійне фото для LinkedIn
Після презентації Gemini Google знову потрапила в маркетинговий скандал повязаний із ШІ
Після презентації Gemini Google знову потрапила в маркетинговий скандал, пов’язаний із ШІ
По темi
Після презентації Gemini Google знову потрапила в маркетинговий скандал, пов’язаний із ШІ
Google працює над новим ШІ під назвою Pixie який створюється на основі моделі Gemini. Що він буде робити
Google працює над новим ШІ під назвою Pixie, який створюється на основі моделі Gemini. Що він буде робити
По темi
Google працює над новим ШІ під назвою Pixie, який створюється на основі моделі Gemini. Що він буде робити
УЧАСТЬ В АЗАРТНИХ ІГРАХ МОЖЕ ВИКЛИКАТИ ІГРОВУ ЗАЛЕЖНІСТЬ. ДОТРИМУЙТЕСЯ ПРАВИЛ (ПРИНЦИПІВ) ВІДПОВІДАЛЬНОЇ ГРИ.
Ліцензія видана ТОВ "СЛОТС Ю.ЕЙ." на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 15.09.23 (рішення КРАІЛ №245 від 31.08.2023); ТОВ "СЛОТС Ю.ЕЙ." – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 26.04.2021 (рішення КРАІЛ №150 від 12.04.2021); ТОВ «СПЕЙСИКС» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 08.02.2021 (рішення КРАІЛ №34 від 02.02.2021); ТОВ «ГЕЙМДЕВ» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 16.02.2021 (рішення № 47 від 10.02.2021).
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Головоломка киянина Quadline перемогла на фестивалі інді-ігор Google Play
Головоломка киянина Quadline перемогла на фестивалі інді-ігор Google Play
Головоломка киянина Quadline перемогла на фестивалі інді-ігор Google Play
Харківська художниця намалювала новий дудл для Google на День Незалежності України
Харківська художниця намалювала новий дудл для Google на День Незалежності України
Харківська художниця намалювала новий дудл для Google на День Незалежності України
Фахівців Google тепер годуватимуть роботи. Вони також уміють давати корисні (і не дуже) поради
Фахівців Google тепер годуватимуть роботи. Вони також уміють давати корисні (і не дуже) поради
Фахівців Google тепер годуватимуть роботи. Вони також уміють давати корисні (і не дуже) поради

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.