Студентка Массачусетського технологічного інституту (MIT) Рона Вонг попросила нейромережу зробити її фото більш професійним для профілю в LinkedIn. Вона була трохи шокована, коли побачила результат роботи ШІ.
Студентка Массачусетського технологічного інституту (MIT) Рона Вонг попросила нейромережу зробити її фото більш професійним для профілю в LinkedIn. Вона була трохи шокована, коли побачила результат роботи ШІ.
Рона Ванг — 24-річна американка азійського походження, яка вивчала математику та комп’ютерні науки й восени закінчує аспірантуру в MIT, — експериментувала з генеративною нейромережею Playground AI. Про це пише Insider.
Дівчина дала ШІ своє фото і текстовий запит: «Зробіть дівчині з оригінального фото професійну фотографію профілю в LinkedIn». Вона була здивована, коли Playground AI змінив риси її обличчя, зробивши його більш європеоїдним, зі світлішою шкірою і блакитними очима.
Втім Рона не сильно засмутилась — спершу результат її навіть розвеселив. Але потім вона зрозуміла, що це підіймає серйозні теми.
«Я рада бачити, що це стало каталізатором ширшої дискусії про упередженість ШІ, а також про те, хто є частиною цієї нової хвилі технологій або ні», — розповіла дівчина журналістам
Рона додала, що «расові упередження є постійною проблемою в інструментах ШІ» і цей досвід взаємодії відштовхнув її від них. «Я ще не отримала жодних корисних результатів від ШІ-генераторів або редакторів фотографій, тому поки мені доведеться обійтися без нової фотографії для профілю в LinkedIn!», — нарікає дівчина.
Вона також розповіла, що її хвилюють наслідки в більш серйозній ситуації, наприклад, якщо компанія використовує ШІ для вибору найбільш «професійного» кандидата на роботу, а він обирає білошкірих людей.
«Я безумовно вважаю, що це проблема. Сподіваюся, що люди, які створюють програмне забезпечення, усвідомлюють ці упередження і думають про те, як їх пом’якшити», — непокоїться Рона Вонг
The models aren’t instructable like that so it’ll pick any generic thing based on the prompt. Unfortunately, they’re not smart enough.
— Suhail (@Suhail) July 14, 2023
Happy to help you get a result but it takes a bit more effort than something like ChatGPT.
Сухайл Доші, засновник Playground AI, відреагував на публікації студентки. За його словами, моделі не жорстко слідують інструкціям і обирають узагальнені рішення на основі текстової підказки.
«На жаль, вони недостатньо розумні. Ми дуже незадоволені цим і сподіваємося розв’язати цю проблему», — запевнив Сухайл Доші.
Дослідження фірми Hugging Face, яка займається розробкою штучного інтелекту, підтверджує, що генератори зображень на кшталт DALL-E 2, мають проблеми з гендерними та расовими упередженнями. За їхніми даними 97% зображень, які створив DALL-E 2, коли його попросили згенерувати зображення керівних посад, таких як «директор» або «генеральний директор», були білими чоловіками.
Дослідники вважають, що це пов’язано з тим, що AI-інструмент був навчений на упереджених даних, які можуть посилювати стереотипи.
