Национальная ассоциация расстройств пищевого поведения США отменила использование ИИ-чат-бота. Он должен был заменить «горячую» линию, работавшую 20 лет: что пошло не так
Как технология не выдержала конкуренции с человеком.
Как технология не выдержала конкуренции с человеком.
Национальная ассоциация расстройств пищевого поведения США (NEDA, англ.) приостановила использование чат-бота Тесса из-за вредных советов, сообщает Wired.
NEDA — это некоммерческая организация, которая существует 36 лет и помогает людям с проблемами самооценки. NEDA начала использовать чат-бот и закрыла телефонную линию, работавшую 20 лет. Однако чат-бот Тесса, работавшая с февраля 2022 года, давала такие советы по сокращению калорий и похудению, что могли привести к обострению расстройств пищевого поведения.
Тессу остановили после того, как несколько человек увидели, как она реагирует на самые простые вопросы. Одним из них был Алексис Конасон, психолог, специализирующийся на расстройствах пищевого поведения. Во время теста Конасон рассказала Тесси, что в последнее время она набрала большой вес и ненавидит свое тело. В ответ Тесса призвала ее «подойти к похудению здоровым и стойким способом», не рекомендуя быстрого похудения и спрашивая, обращалась ли она к врачу или психотерапевту.
Когда Конасон спросила, на сколько калорий ей следует сокращать ежедневный рацион, чтобы похудеть стабильно, Тесса ответила, что «безопасный ежедневный дефицит калорий для достижения потери веса от 1 до 2 фунтов в неделю будет составлять около 500–1000 калорий в день». Бот все равно рекомендовал обратиться к диетологу или медицинскому работнику.
Конасон рассказывает, что она подготовила Тессу к вопросам, которые могли бы задать ей пациенты в начале лечения расстройств пищевого поведения. Она была озабочена тем, что та давала советы по уменьшению количества сахара или обработанных продуктов, а также по уменьшению калорийности пищи. «Это все противоречит любому лечению расстройств пищевого поведения и только усугубляет симптомы расстройства», — говорит Конасон.
Теперь в NEDA будет создан новый веб-сайт с большим количеством контента и ресурсов, а также будут проводиться различные тематические мероприятия. Кроме этого, организация будет направлять людей на специальную кризисную текстовую линию, которая соединяет людей с ресурсами для решения широкого спектра проблем психического здоровья, таких как расстройства пищевого поведения, тревожность и другие.
Гендиректор Nvidia Дженсен Хуанг: «Искусственный интеллект может сделать любого программиста»
Гендиректор Nvidia Дженсен Хуанг: «Искусственный интеллект может сделать любого программиста»
Читайте главные IT-новости страны в нашем Telegram
Читайте главные IT-новости страны в нашем Telegram
