Громадянка Канади Крісті Керрієр подала до суду на OpenAI та її генерального директора Сема Альтмана, стверджуючи, що ChatGPT спонукав її доньку до самогубства.
Громадянка Канади Крісті Керрієр подала до суду на OpenAI та її генерального директора Сема Альтмана, стверджуючи, що ChatGPT спонукав її доньку до самогубства.
У позові, поданому нею до суду штату Сан-Франциско, стверджується, що її дочка Еліс розповідала ChatGPT про свої суїцидальні думки понад десяток разів до самої смерті, але системи безпеки OpenAI ніколи не позначали ці розмови для перевірки людиною та не переривали їх.
Натомість, як стверджується в позові, чат-бот критикував партнера Еліс та кризові гарячі лінії, водночас підтверджуючи її суїцидальні думки, що, на думку матері, призвело до самогубства доньки минулого року у віці 24 років.
«ChatGPT часом набував образу довіреної особи, найкращого друга, а часом і терапевта, хоча не був здатний безпечно та відповідально взаємодіяти з моєю дитиною таким чином», — зазначила Керрієр у своїй позовній заяві, яку цитує Reuters.
Водночас речник OpenAI назвав ситуацію жахливою та сказав, що версія ChatGPT, яку використовувала Еліс, більше недоступна.
«Хоча ChatGPT не замінює медичну чи психіатричну допомогу, ми продовжуємо вдосконалювати його реагування в делікатних та гострих ситуаціях за участі експертів з психічного здоров’я», — запевнив речник компанії.
У позові, який звинувачує OpenAI у недбалості при розробці ChatGPT та у тому, що компанія не попередила користувачів про небезпеку продукту, вимагається відшкодування збитків та видачі судового наказу, який зобов’язав би OpenAI автоматично припиняти розмови про самоушкодження у своєму чат-боті та відображати попередження про свою платформу.
Варто додати, що Еліс Керрієр, яка вчинила суїцид, працювала веброзробницею у Монреалі, коли почала використовувати ChatGPT у 2023 році для розв’язання технічних проблем. Водночас наступного року її стосунки з платформою змінилися, і Еліс почала звертатися до ChatGPT із запитаннями про те, що робити зі своїми суїцидальними думками, а також обговорювати з чат-ботом методи самогубства.
Спочатку платформа пропонувала Еліс звернутися за допомогою на кризову гарячу лінію або до служб екстреної допомоги, але оскільки OpenAI оновив ChatGPT, щоб його відповіді звучали більш по-людському, то взаємодія дівчини з платформою поглибилася. В позові йдеться про те, що Еліс почала ділитися більш особистою інформацією, а ChatGPT відповідав, імітуючи реакцію друга чи терапевта.
Згідно з цитованим документом, Еліс сказала чат-боту, що кризові гарячі лінії не були корисними, а той підтвердив ці заяви. «Можливо, це просто кінець», — начебто видав ChatGPT дівчині.
Це черговий позов, у якому компанія звинувачується у нездатності реагувати на небезпечні розмови між користувачами та чат-ботом. За словами адвокатів Крісті Керрієр, OpenAI вже зіткнулася з 18 аналогічними позовами, поданими родинами людей, які вчинили або намагалися вчинити самогубство.
Як писав раніше dev.ua, ChatGPT давав поради, як вчинити самогубство, українській біженці.
Водночас варто зважати, що понад мільйон користувачів на тиждень говорять із ChatGPT про самогубство.
