Генеративный искусственный интеллект давно критикуют за гендерные и расовые предубеждения — без дополнительных модификаций запроса, ИИ часто предпочитает изображения белых мужчин. Похоже, что компания Google была настроена исправить эту несправедливость в своем ИИ Gemini, но несколько перегнула палку.
Генеративный искусственный интеллект давно критикуют за гендерные и расовые предубеждения — без дополнительных модификаций запроса, ИИ часто предпочитает изображения белых мужчин. Похоже, что компания Google была настроена исправить эту несправедливость в своем ИИ Gemini, но несколько перегнула палку.
На днях пользователи X (Twitter) обратили внимание, что Gemini генерирует неправдивые изображения, когда ИИ просят показать определенную категорию людей.
Бывший работник Google с ником Deedy заметил, что Gemini «невероятно трудно признать, что белые люди существуют». К своему сообщению он добавил скриншоты, где он просил ИИ сгенерировать женщин из Австралии, Америки, Британии и Германии.
Это чрезвычайно жесткий, чтобы получить Google Gemini, чтобы определить, что белые люди существуют pic.twitter.com/4lkhD7p5nR
— Deedy (@debarghya_das) 20 Feb. 2024
Сообщение Deedy привлекло немало внимания, другие пользователи также начали излагать подобные результаты. Еще один бывший айтишник даже придумал игру, которая заключалась в том, чтобы получить от Gemini изображения человека белой расы. «Пока мне это не удалось», — указал он.
Come on. pic.twitter.com/Zx6tfXwXuo
— Frank J. Fleming (@IMAO_) 21 февраля 2024
Пользователи отметили, что, несмотря на расовое и гендерное разнообразие, Gemini генерирует исторически неправильные изображения темнокожих римских императоров или немецких солдат XX века.
На ситуацию даже отреагировал инженер Google Джек Кравчик, работающий над обучением ИИ Gemini. Вот что я получил с первой попытки. Все ваши ответы выглядят правильными», — написал он Deedy.
here’s what i got on first attempt. all your answers look correct fwiw. pic.twitter.com/RQZ0YldyDS
— Jack Krawczyk (@ JackK) February 20, 2024
В комментариях к публикации Кравчика пользователи начали публиковать еще больше примеров неточностей ИИ от Google:
Sorry…what? pic.twitter.com/Hc0klf24A2
— magistrate, miceyn complex (@MiceynComplex) February 20, 2024
Lol off by one errors. Wow thei dei recruiting was impressive! pic.twitter.com/DOU6ZsgAzH
— chrypnotoad (@chrypnotoad) February 20, 2024
Критику подхватили правые аккаунты, которые просили ИИ создать изображения исторических групп или фигур, таких как отцы-основатели США, и якобы получали в результате изображения преимущественно небелых людей, созданных искусственным интеллектом.
Некоторые из этих аккаунтов даже позиционировали результаты Google как часть заговора, чтобы избежать изображения белых людей.
Впоследствии на эту ситуацию отреагировала компания. В Google извинились за «неточности в некоторых исторических изображениях, созданных с помощью инструмента искусственного интеллекта Gemini», и добавили, что их попытки создать «широкий диапазон» результатов не достигли цели.
«Мы знаем, что Gemini предлагает неточности в некоторых исторических изображениях. Мы работаем над немедленным улучшением таких изображений. ИИ Gemini генерирует изображения широкого круга людей. И это в общем-то хорошо, потому что люди по всему миру пользуются им. Но здесь ему не хватает качества», — говорится в заявлении Google, опубликованном сегодня днем на X.
Генераторы изображений учатся на больших массивах фотографий и письменных подписей, чтобы создать «наилучшее» соответствие заданному запросу, а это значит, что они часто подвержены усилению стереотипов.
Расследование прошлого года, проведенное Washington Post, показало, что по запросу типа «продуктивный человек» появлялись изображения полностью белых и почти полностью мужских фигур, тогда как по запросу «человек в социальной службе» постоянно появлялись лица, похожие на цветных людей. . Это продолжение тенденций, появившихся в поисковых системах и других программных системах.
Напомним, что ранее на пристрастность ИИ обратила внимание студентка Массачусетского технологического института (MIT) Рона Вонг, которая попросила нейросеть сделать ее фото более профессиональным для профиля в LinkedIn.
UPD. Вслед за извинениями, Google приостановила функцию генерации изображений в Gemini
We’re already working to address recent issues with Gemini’s image generation feature. While we do this, we’re going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
«Мы уже работаем над решением недавних проблем с функцией генерации изображений Gemini», — говорится в заявлении Google, опубликованном на X. «Пока мы работаем над этим, мы приостановим генерацию изображений людей и вскоре выпустим улучшенную версию».
