Жінка використала Claude як щоденник, а Anthropic заявила на неї в поліцію. Що трапилося?
У США проти жительки штату Флорида висунули обвинувачення у скоєнні важкого злочину після того, як вона використала штучний інтелект як особистий щоденник.
У США проти жительки штату Флорида висунули обвинувачення у скоєнні важкого злочину після того, як вона використала штучний інтелект як особистий щоденник.
26 вересня Карлі Мішель Геллер із містечка Боніта-Спрінгс внесла до чат-бота Claude запис із погрозами здійснити напад на окружне відділення шерифа. Вже під час затримання вона пояснила, що сприймала сервіс як цифровий щоденник і ділилася з ним думками, пише TechSpot.
Системи безпеки Claude автоматично позначили загрозливий текст та передали його на перевірку людині-модератору. Оцінивши ситуацію як реальну загрозу масового насильства, співробітник компанії повідомив про це поліцію.
Представники Anthropic зазначили, що політика конфіденційності компанії дозволяє передавати персональні дані користувачів правоохоронним органам у надзвичайних ситуаціях — зокрема для запобігання загрозі життю або тяжких тілесних ушкоджень.
Поліцейські оперативно встановили особу Геллер і затримали її за місцем проживання без чинення опору. Наразі справу веде детектив відділу розвідки офісу шерифа округу Лі.
Жінці інкримінують письмове висловлення погроз насильством. Згідно зі статтею 836.10 закону штату Флорида, надсилання чи публікація електронних повідомлень із погрозами вбивства, масової стрілянини чи терористичного акту є тяжким злочином другого ступеня, якщо це повідомлення було створене у спосіб, що передбачає його перегляд іншими особами.
ШІ-система помилково прийняла пакет чипсів за вогнепальну зброю: учень опинився в кайданках поліції
ШІ-система помилково прийняла пакет чипсів за вогнепальну зброю: учень опинився в кайданках поліції
ШІ знову спричинив хаос у школі США: замість чоловіка у камуфляжі з рушницею поліція знайшла учня з кларнетом
ШІ знову спричинив хаос у школі США: замість чоловіка у камуфляжі з рушницею поліція знайшла учня з кларнетом
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
