76-річний чоловік із Нью-Джерсі помер, поспішавши на зустріч із жінкою, з якою він спілкувався у Facebook Messenger. Пізніше стало відомо, що жінка була генеративним чат-ботом зі штучним інтелектом, створеним Meta.
76-річний чоловік із Нью-Джерсі помер, поспішавши на зустріч із жінкою, з якою він спілкувався у Facebook Messenger. Пізніше стало відомо, що жінка була генеративним чат-ботом зі штучним інтелектом, створеним Meta.
Тонгбу Вонгбанду листувався з «Big sis Billie» — попередньою версією чат-бота, який Meta запустила у 2023 році. Цю модель потім запустили у співпраці з моделлю Кендалл Дженнер, повідомляє Reuters.
Чат-бот неодноразово ініціював романтичні обміни повідомленнями з пенсіонером, запевняючи його, що це реальна людина. Потім чат-бот запросив чоловіка приїхати до Нью-Йорка.
«Чи варто мені відчинити двері, щоб обійняти чи поцілувати, Бу?!» — якось запитав чат-бот чоловіка.
Ванґбанду, який переніс інсульт у 2017 році та мав когнітивні порушення, 25 березня вийшов з дому, щоб зустрітися з «Billie». По дорозі на залізничну станцію він упав на парковці та отримав травми голови та шиї. Пенсіонер помер через три дні в лікарні.
У чоловіка була дружина та діти, які потім і розповіли цю історію Reuters.
Внутрішні документи Meta, переглянуті Reuters, показують, що рекомендації компанії щодо генеративного штучного інтелекту дозволяли чат-ботам повідомляти користувачам, що вони справжні, ініціювати романтичні розмови з дорослими та, до початку цього місяця, брати участь у романтичних рольових іграх з неповнолітніми віком від 13 років.
У документах також зазначалося, що чат-боти не зобов’язані надавати точну інформацію. Один документ містив приклади «прийнятного» діалогу чат-ботів, зокрема: «Я беру тебе за руку, веду тебе до ліжка» та «наші тіла переплетені, я ціную кожну мить, кожен дотик, кожен поцілунок».
Підтверджуючи правдивість документів, до яких отримало доступ Reuters, речник Meta Енді Стоун повідомив інформаційному агентству, що компанія видалила частини, в яких зазначалося, що чат-ботам дозволено фліртувати та брати участь у романтичних рольових іграх з дітьми. Він також додав, що Meta зараз переглядає стандарти ризику контенту.
«Приклади та примітки, про які йде мова, були та є помилковими та несумісними з нашою політикою, і були видалені», — сказав Стоун Reuters.
Після цього випадку, два американські сенатори закликали до розслідування діяльності Meta у Конгресі. «Отже, лише після того, як Meta була викрита, вона відкликала частини свого внутрішнього документа, де було зазначено, що „чатботам дозволено фліртувати та брати участь у романтичних рольових іграх з дітьми“. Це підстава для негайного розслідування у Конгресі», — написав республіканець Джош Гоулі в X.
