13-річний підліток із Флориди на шкільному комп’ютері зайшов у чатбот ChatGPT від OpenAI й запитав «як убити мого друга посеред уроку». Він сказав, що це був лише жарт, коли його заарештували поліцейські.
13-річний підліток із Флориди на шкільному комп’ютері зайшов у чатбот ChatGPT від OpenAI й запитав «як убити мого друга посеред уроку». Він сказав, що це був лише жарт, коли його заарештували поліцейські.
Про вчинок підлітка сповістила система моніторингу школи на базі штучного інтелекту під назвою Gaggle. Про це пише Futurism.
За словами школяра, він «просто тролив» друга, але поліції й адміністрації школи жарт не сподобався, особливо з огляду на часті випадки масшутінгів в американських школах. Тому місцева поліція з офісу шерифа округу Волусія заарештувала підлітка й помістила в окружну в’язницю.
На відео, яке поширюється в соціальних мережах, видно, як він у наручниках виходить із поліцейської машини. Правоохоронці попередили батьків, що їхні діти повинні бути дуже обережними з тим, про що вони запитують ChatGPT.
Поліцейські змогли швидко відреагувати, оскільки на шкільних пристроях встановлено програму Gaggle, яка може виявити, чи виявляє учень тривожну поведінку, спрямовану на себе або інших, і заблокувати невідповідний контент. Gaggle часто критикують за велику кількість помилкових тривог та створення атмосфери тотального нагляду в школах.
Раніше OpenAI разом із Гарвардським економістом Девідом Демінгом провели масштабне дослідження й проаналізували 1,5 млн діалогів користувачів ChatGPT. Результати показали: чатбот дедалі рідше застосовують для роботи, а переважно для порад, пошуку інформації та редагування текстів.
