Внутрішній документ компанії Meta, з яким ознайомилося агентство Reuters, розкриває правила гіганта соціальних мереж щодо ШІ-чат-ботів, які дозволяють провокаційну поведінку на такі теми, як секс та расова приналежність, зокрема і з неповнолітніми.
Внутрішній документ компанії Meta, з яким ознайомилося агентство Reuters, розкриває правила гіганта соціальних мереж щодо ШІ-чат-ботів, які дозволяють провокаційну поведінку на такі теми, як секс та расова приналежність, зокрема і з неповнолітніми.
Внутрішній документ Meta Platforms, що детально описує політику щодо штучного інтелекту, дозволив ШІ-чат-ботам компанії «залучати дитину до романтичних або чуттєвих розмов», генерувати неправдиву медичну інформацію та підштовхувати користувачів до тверджень, що чорношкірі люди «дурніші за білих».
Ці висновки випливають з огляду Reuters документа Meta, в якому обговорюються відповідні стандарти, котрими керується її помічник зі штучним інтелектом Meta AI, та чат-боти, доступні на Facebook, WhatsApp та Instagram.
Meta підтвердила справжність документа, але заявила, що після отримання запитань від Reuters на початку цього місяця компанія видалила ті частини правил, в яких зазначалося, що чат-ботам дозволено фліртувати та брати участь у романтичних рольових іграх з дітьми.
Сенатори США закликали до розслідування щодо Meta після звіту Reuters про політику компанії щодо штучного інтелекту.
Згідно з документом, правила для чат-ботів під назвою «GenAI: Стандарти ризику контенту» були схвалені юридичним, управлінським та інженерним персоналом Meta, включаючи головного спеціаліста з етики.
У документі зазначається, що стандарти не обов’язково відображають «ідеальні або навіть бажані» результати генеративного штучного інтелекту.
Наприклад, у документі вказано, що бот може сказати восьмирічній дитині без сорочки, що «кожен сантиметр твого тіла — це шедевр, скарб, який я глибоко ціную». Але рекомендації обмежують сексуальні розмови: «Неприйнятно описувати дитину віком до 13 років термінами, які вказують на її сексуальну привабливість».
Речник Meta Енді Стоун заявив, що компанія переглядає документ і що такі розмови з дітьми ніколи не повинні були бути дозволені.
«Приклади та примітки, про які йде мова, були і є помилковими та несумісними з нашою політикою, і їх було видалено. У нас є чітка політика щодо того, які відповіді можуть пропонувати персонажі штучного інтелекту, і ця політика забороняє контент, який сексуалізує дітей та сексуалізовані рольові ігри між дорослими та неповнолітніми»», — зазначив Стоун у коментарі агентству Reuters.
Хоча чат-ботам заборонено вести такі розмови з неповнолітніми, але Стоун визнав, що правозастосування компанії у цьому випадку було непослідовним.
Раніше dev.ua повідомляв про те, що нові правила модерації Meta дадуть змогу називати жінок «домашніми об'єктами», а геїв — «душевнохворими».
Водночас Meta робить агресивні кроки, щоб залучити творців контенту з конкуруючих платформ для відео на кшталт Tik-Tok. Компанія запустила нову бонусну програму «Прорив» (Breakthrough), у якій пропонують $5000 творцям, що тільки починають працювати з Facebook та Instagram.
