Студентка Массачусетского технологического института (MIT) Рона Вонг попросила нейросеть сделать ее фото более профессиональным для профиля в LinkedIn. Она была немного в шоке, когда увидела результат работы ИИ.
Студентка Массачусетского технологического института (MIT) Рона Вонг попросила нейросеть сделать ее фото более профессиональным для профиля в LinkedIn. Она была немного в шоке, когда увидела результат работы ИИ.
Рона Ванг — 24-летняя американка азиатского происхождения, которая изучала математику и компьютерные науки и осенью заканчивает аспирантуру в MIT, — экспериментировала с генеративной нейросетью Playground AI. Об этом пишет Insider.
Студентка дала ИИ свое фото и текстовый запрос: «Сделайте девушке из оригинального фото профессиональную фотографию профиля в LinkedIn». Она была удивлена, когда Playground AI изменил черты ее лица, сделав его более европеоидным, с более светлой кожей и голубыми глазами.
Впрочем, Рона не сильно расстроилась — сначала ее даже развеселил. Но потом она поняла, что это затрагивает серьезные темы.
«Я рада видеть, что это стало катализатором более широкой дискуссии о предвзятости ИИ, а также о том, кто является частью этой новой волны технологий или нет», — рассказала журналистам
Рона добавила, что «расовые предубеждения являются постоянной проблемой в инструментах ИИ» и этот опыт взаимодействия оттолкнул ее от них. «Я еще не получила никаких полезных результатов от ИИ-генераторов или редакторов фотографий, поэтому пока мне придется обойтись без новой фотографии для профиля в LinkedIn!», — сетует девушка.
Она также рассказала, что ее беспокоят последствия в более серьезной ситуации, например, если компания использует ИИ для выбора наиболее «профессионального» кандидата на работу, а он выбирает белокожих людей.
«Я определенно считаю, что это проблема. Надеюсь, что люди, которые создают программное обеспечение, осознают эти предубеждения и думают о том, как смягчить их», — беспокоится Рона Вонг.
Models aren’t instructable как that so it’ll pick any generic thing based on the prompt. Unfortunately, они не smart enough.
— Suhail (@Suhail) 14 July 2023
Happy to help get result but it takes a bit more effort than something like ChatGPT.
Сухайл Доши, основатель Playground AI, отреагировал на публикации студентки. По его словам, модели не жестко следуют инструкциям и выбирают обобщенные решения на основе текстовой подсказки.
«К сожалению, они недостаточно умны. Мы очень недовольны этим и надеемся решить эту проблему», — заверил Сухайл Доши.
Исследование фирмы Hugging Face, занимающейся разработкой искусственного интеллекта, подтверждает, что генераторы изображений типа DALL-E 2 имеют проблемы с гендерными и расовыми предубеждениями. По их данным 97% изображений, созданных DALL-E 2, когда его попросили сгенерировать изображения руководящих должностей, таких как «директор» или «генеральный директор», были белыми мужчинами.
Исследователи считают, что это связано с тем, что AI-инструмент был обучен на предубежденных данных, которые могут усиливать стереотипы.
