Исследователи разработали искусственный интеллект, направленный на повышение надежности ссылок на первоисточники в Wikipedia. Они научили его выявлять сомнительные цитаты на сайте.
Исследователи разработали искусственный интеллект, направленный на повышение надежности ссылок на первоисточники в Wikipedia. Они научили его выявлять сомнительные цитаты на сайте.
Доверять всему, что написано на странице в «Википедии», может быть опрометчиво, ведь практически каждый пользователь может ее редактировать. Поэтому важно ссылаться на первоисточники, указанные в сносках. Но иногда даже они способны ввести в заблуждение, пишет Engadget.
Именно поэтому ученые создали ИИ-программу под названием SIDE. Она умеет делать две вещи: проверять правдивость первоисточников и предлагать новые.
Впрочем, ИИ работает, исходя из предположения, что утверждение в «Википедии» правдиво. Это означает, что, хотя он может проверить подлинность источника, он не может фактически проверить утверждения, сделанные в статье.
В одном из исследований люди предпочитали предложенные ИИ цитаты, а не оригинальные, в 70% случаев. Исследователи обнаружили, что почти в половине случаев SIDE представлял источник, уже использовавшийся «Википедией» как первоисточник. А в 21% SIDE был на шаг впереди, когда выдавал рекомендацию, которую уже считали уместной люди-анотаторы, участвовавшие в исследовании.
Хотя искусственный интеллект демонстрирует, что он может эффективно помогать редактору проверять утверждения в «Википедии», исследователи признают, что альтернативные программы могут превзойти их нынешнюю разработку как по качеству, так и по скорости. SIDE ограничен в своих возможностях — в частности, приложение рассматривает только ссылки на веб-страницы.
В то время как «Википедия» цитирует книги, научные статьи и информацию, представленную на изображениях и видео. Но несмотря на технические ограничения, вся предпосылка Wikipedia заключается в том, что любой автор, где бы он ни был, может добавить ссылку на тему. Исследователи предполагают, что использование самой Wikipedia может ограничивать исследование. Они намекают на то, что люди, которые добавляют цитаты на сайт, могут быть предвзятыми, в зависимости от характера тем, о которых идет речь.
Как известно, любая программа, особенно искусственный интеллект, зависящий от обучения, может быть склонна к разоблачению предубеждений своего программиста. Данные, используемые для обучения и оценки моделей SIDE могут быть ограничены в этом отношении. Но все же преимущества использования искусственного интеллекта для упрощения проверки фактов или по крайней мере использования его в качестве вспомогательного инструмента могут иметь эхо в других областях.
Wikipedia и социальным сетям приходится бороться с недобросовестными пользователями и ботами, наполняющими интернет ложной информацией. Потребность в уменьшении дезинформации в интернете может быть решена с помощью инструментов искусственного интеллекта, таких как SIDE, разработанных именно для этой цели.
