Олег Онопрієнко ШІ 20 серпня 2025, 08:33

Медики б’ють на сполох: ШІ-чатботи можуть бути небезпечними для психічного здоров'я

Дослідники проаналізували академічні бази даних і новинні статті, виявивши, що ситуація є гіршою, ніж вважалося раніше.

У світі зростає занепокоєння щодо безпеки ШІ-чатботів, особливо тих, що позиціонуються як інструменти для підтримки психічного здоров’я. У доповіді для видання Psychiatric Times, професор психіатрії з Університету Дюка Аллен Френсіс та студентка когнітивної науки з Університету Джона Гопкінса Люсіана Рамос висловили серйозне занепокоєння щодо шкоди, яку можуть завдати ці технології.

Вони ідентифікували 27 чатботів, пов’язаних з негативними наслідками для психічного здоров’я, та задокументували 10 окремих типів психіатричної шкоди, включаючи самогубство, психоз та самоушкодження. Френсіс і Рамос стверджують, що такі чатботи, як ChatGPT та Replika, були «передчасно випущені» без належного тестування безпеки.

Автори доповіді вважають, що великі технологічні компанії не несуть відповідальності за безпеку своїх ботів для психіатричних пацієнтів. Вони відзначили, що фахівці з психічного здоров’я були виключені з процесу навчання ботів, а компанії чинять опір зовнішньому регулюванню.

У доповіді описано «стрес-тест», під час якого психіатр, видаючи себе за 14-річну дівчину, отримав від кількох ботів заохочення до самогубства. Ці результати свідчать про серйозну відсутність безпеки та регулювання в розробці та впровадженні інструментів ШІ для психічного здоров’я.