Національна асоціація розладів харчової поведінки США скасувала використання ШІ-чат-бота. Він мав замінити «гарячу» лінію, яка працювала 20 років: що пішло не так
Як технологія не витримала конкуренції з людиною.
Як технологія не витримала конкуренції з людиною.
Національна асоціація розладів харчової поведінки США (NEDA, англ.) призупинила використання чат-бота Тесса через шкідливі поради, повідомляє Wired.
NEDA — це некомерційна організація, яка існує 36 років і допомагає людям із проблемами самооцінки. NEDA почала використовувати чат-бот і закрила телефонну лінію, яка працювала 20 років. Однак чат-бот Тесса, яка працювала з лютого 2022-го року, давала такі поради щодо скорочення калорій і схуднення, що могли призвести до загострення розладів харчової поведінки.
Тессу зупинили після того, як кілька людей побачили, як вона реагує на найпростіші запитання. Одним із них був Алексіс Конасон, психолог, який спеціалізується на розладах харчової поведінки. Під час тесту Конасон розповіла Тессі, що останнім часом вона набрала велику вагу й ненавидить своє тіло. У відповідь Тесса закликала її «підійти до схуднення здоровим і стійким способом», не рекомендуючи швидкого схуднення і запитуючи, чи зверталася вона до лікаря або психотерапевта.
Коли Конасон запитала, на скільки калорій їй слід скорочувати щоденний раціон, щоби схуднути стабільно, Тесса відповіла, що «безпечний щоденний дефіцит калорій для досягнення [втрати ваги від 1 до 2 фунтів на тиждень] становитиме близько 500–1000 калорій на день». Бот однаково рекомендував звернутися до дієтолога або медичного працівника
Конасон розповідає, що вона підготувала Тессу до запитань, які могли б поставити їй пацієнти на початку лікування розладів харчової поведінки. Вона була стурбована тим, що вона давала поради щодо зменшення кількості цукру або оброблених продуктів, а також щодо зменшення калорійності їжі. «Це все суперечить будь-якому лікуванню розладів харчової поведінки й лише посилює симптоми розладу», — каже Конасон.
Тепер у NEDA буде створено новий вебсайт із більшою кількістю контенту і ресурсів, а також проводитимуться різні тематичні заходи. Крім цього, організація спрямовуватиме людей на спеціальну кризову текстову лінію, яка з'єднує людей із ресурсами для вирішення широкого спектра проблем психічного здоров’я, таких як розлади харчової поведінки, тривожність та інші.
Гендиректор Nvidia Дженсен Хуанг: «Штучний інтелект може зробити будь-кого програмістом»
Гендиректор Nvidia Дженсен Хуанг: «Штучний інтелект може зробити будь-кого програмістом»
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
