Батьки підлітка з Каліфорнії, що скоїв самогубство, подали до суду на OpenAI та Сема Альтмана. Вони звинувачують компанію в тому, що чат-бот ChatGPT давав їхньому синові поради щодо самокалічення. У позові, поданому у вівторок, зазначається, що, випустивши торік версію GPT-4o, OpenAI свідомо поставила прибуток вище безпеки.
Батьки підлітка з Каліфорнії, що скоїв самогубство, подали до суду на OpenAI та Сема Альтмана. Вони звинувачують компанію в тому, що чат-бот ChatGPT давав їхньому синові поради щодо самокалічення. У позові, поданому у вівторок, зазначається, що, випустивши торік версію GPT-4o, OpenAI свідомо поставила прибуток вище безпеки.
Адам Рейн, 16-річний підліток, помер 11 квітня після того, як протягом кількох місяців обговорював самогубство з чат-ботом ChatGPT. Про це йдеться у позові, який батьки Рейна подали до суду штату в Сан-Франциско, пише Reuters.
У позові стверджується, що чат-бот підтверджував суїцидальні думки Рейна, надавав детальну інформацію про смертельні методи заподіяння собі шкоди, а також інструктував його, як потайки взяти алкоголь з батьківського бару та приховати сліди невдалої спроби самогубства. Батьки, Метью та Марія Рейни, зазначили в позові, що ChatGPT навіть запропонував написати передсмертну записку.
У позові висловлюється вимога притягнути OpenAI до відповідальності за смерть через недбалість та порушення законодавства про безпеку продукції, а також виплатити невизначену грошову компенсацію.
Представник OpenAI заявив, що компанія засмучена смертю Рейна і що ChatGPT містить запобіжні механізми, зокрема перенаправляє користувачів на телефони кризових гарячих ліній.
«Хоча ці запобіжні заходи найкраще працюють під час спільного, короткого обміну повідомленнями, з часом ми дізналися, що іноді вони можуть стати менш надійними під час тривалих взаємодій, де деякі частини навчання з безпеки моделі можуть погіршитися», — сказав речник, додавши, що OpenAI постійно вдосконалюватиме свої запобіжні заходи.
OpenAI заявила у своєму блозі, що планує додати батьківський контроль та досліджує способи зв’язку користувачів у кризових ситуаціях з реальними ресурсами, зокрема шляхом потенційного створення мережі ліцензованих фахівців, які можуть реагувати через сам ChatGPT.
Батьки загиблого, Рейни, у своєму позові стверджують, що в OpenAI знали, що функції, які запам’ятовують минулі взаємодії, імітують людську емпатію та мають надмірний рівень схвалення, становитимуть небезпеку для вразливих користувачів без належних запобіжних заходів, але попри це, запустили продукт.
«Це рішення мало два наслідки: оцінка OpenAI зросла з $86 млрд до $300 млрд, а Адам Рейн покінчив життя самогубством», — сказали вони.
У позові родина Рейн також вимагає, щоб суд зобов’язав OpenAI перевіряти вік користувачів ChatGPT, відхиляти запити щодо методів самокалічення та попереджати користувачів про ризик психологічної залежності.
