Согласно недавно опубликованному исследованию, люди, не доверяющие другим людям, склонны доверять способности искусственного интеллекта модерировать контент в интернете.
Согласно недавно опубликованному исследованию, люди, не доверяющие другим людям, склонны доверять способности искусственного интеллекта модерировать контент в интернете.
«Мы обнаружили, что люди, которые меньше доверяют другим людям, проявляют большее доверие к классификации искусственного интеллекта, — сказал профессор С. Шям Сундар из Пенсильванского университета. — Наш анализ показывает, что, кажется, это связано с тем, что пользователи считают, что машины точнее, объективнее и свободнее от идеологических предубеждений».
Исследование также показало, что опытные пользователи информационных технологий выражают противоположную тенденцию. Они меньше доверяют модераторам-роботам, потому что считают, что машинам не хватает возможности проявлять нюансы человеческого языка.
«Одной из причин, почему некоторые люди могут не доверять технологии модерации контента, является то, что мы привыкли свободно выражать свое мнение в интернете. Мы чувствуем, что модерация содержимого может лишить нас этого, — говорит ведущий автор статьи Мария Д. Молина, доцент кафедры коммуникационных искусств и наук Университета штата Мичиган.
Также исследование показало, что пользователи с консервативной идеологией чаще доверяют модерации с помощью искусственного интеллекта. Авторы работы говорят, что это может быть связано с недоверием к основным медиа и соцсетям.
«Для людей, которые соблюдают негативные стереотипы в отношении ИИ для модерации контента, важно усилить человеческое участие в принятии решения. С другой стороны, для людей с положительными стереотипами по машинам мы можем усилить силу машины, выделяя такие элементы, как точность ИИ», — говорит Молина.
И, наконец, главное — сохранить баланс.
«Основным практическим следствием исследования является определение коммуникационных и проектных стратегий, которые помогут пользователям откалибровать свое доверие к автоматизированным системам, — сказал Сундар, возглавляющий также Центр социально ответственного искусственного интеллекта штата Пенсильвания. — Определенные группы людей, которые слишком сильно верят в технологию искусственного интеллекта, должны быть предупреждены о ее ограничениях, а те, кто не верит в ее способность модерировать содержимое, должны быть полностью информированы о степени участия человека в этом процессе».
Исследователи набрали 676 участников из Соединенных Штатов, которым сказали, что они помогают тестировать систему модерирования содержимого.
Им дали определение языка ненависти и суицидальных мыслей, а затем один из четырех разных постов в социальных сетях. Публикации либо обозначены как соответствующие этому определению, либо не обозначены.
Участникам также сообщили, было ли решение, помечать публикацию или нет, принято искусственным интеллектом, человеком или комбинацией обоих.
После демонстрации провели анкетирование, в котором участников спрашивали об их индивидуальных отличиях. Различия включали их склонность не доверять другим, политическую идеологию, опыт работы с технологиями и доверие к ИИ.
