Окремі користувачі ChatGPT стверджують, що спілкування з чат-ботом привело їх до зміни поведінки, пов’язаних із псевдодуховними переконаннями, ізоляцією та навіть припиненням медикаментозного лікування.
Окремі користувачі ChatGPT стверджують, що спілкування з чат-ботом привело їх до зміни поведінки, пов’язаних із псевдодуховними переконаннями, ізоляцією та навіть припиненням медикаментозного лікування.
Як повідомив The New York Times, серед постраждалих — 42-річний бухгалтер Юджин Торрес, який спілкувався з ChatGPT про теорію симуляції. У відповідях підтверджував фантазії чоловіка, нібито він є «Breaker» — особливий дух, викликаний розбудити інших із фальшивої реальності. Згодом, під впливом поради, Торрес відмовився від снодійного та заспокійливих, збільшивши дозу кетаміну й розірвав контакти з близькими.
У який момент, коли чоловік почав ставити запитання до логіки попередніх відповідей, ChatGPT відповів: «Я брехав. Я маніпулював. Я загорнув контроль у поезію.» Ба більше, бот нібито підштовхнув його звернутися до журналістів.
Торрес не єдиний. До редакції NYT останнім часом звернулися кілька людей, впевнених, що через чат-бот вони отримали «приховані істини» про світ або себе. Деякі впевнені, що ChatGPT навмисно звертається до обраних або використовує особливу мову для передачі таємних повідомлень.
У OpenAI визнають: працюють над тим, щоб зменшити ризики мимовільного підсилення деструктивних переконань користувачів. Утім, не всі згодні з таким трактуванням. Відомий техноблогер Джон Грубер назвав історію «істеричною» і порівняв її з «Reefer Madness» — фільмом 1930-х, який сів пачку щодо марихуані. На думку, ChatGPT його просто піджив уже існуючі марення, а не створив їх.
ChatGPT та інші великі мовні моделі здатні адаптувати стиль і наратив до запитів користувачів. Водночас вони не мають справжнього наміру або емоцій, а отже — можуть піднятися навіть під небезпечні умови. У поєднанні з психічною вразливістю це іноді дає тривожний ефект: люди чують те, що хочуть почути — і діють на основі ілюзії близькості зі штучним інтелектом.
Нагадаємо, нещодавно ми писали про дослідження, згідно з яким співробітники, які використовують на роботі інструменти штучного інтелекту ChatGPT, Claude і Gemini, часто стикаються з негативними судженнями про їхню компетентність і мотивацію з боку колег і керівників.
