В YouTube розповіли, як фільтрують дезінформацію в рекомендованому контенті

VP of Engineering YouTube Крістос Гудроу розповів про алгоритми роботи рекомендацій сервісу. У компанії є спеціальна платформа, яка фільтрує дезінформацію.

«Хтось може повідомити, що вони дуже задоволені відео, які стверджують, що „Земля пласка“, але це не означає, що ми хочемо рекомендувати такий тип неякісного вмісту», — розповів Крістос Гудроу, VP of Engineering YouTube в інтерв’ю каналу Creator Insider. 

За його словами, в останні роки YouTube активно використовують як платформу для поширення дезінформації. З метою запобігання цьому розробники розширили можливості системи рекомендацій. Вони навчили її виключати зі списку рекомендацій явну дезінформацію та матеріали прикордонного вмісту — тобто вмісту, який близький, але не зовсім порушує правила. Наприклад теорії змови або відео, які стверджують, що апельсиновий сік лікує рак. 

За допомогою класифікаторів визначають чи є відео «авторитетним» або «прикордонним». Ці класифікатори спираються на оцінювачів, які оцінюють якість інформації в кожному каналі чи відео. Оцінювачі з усього світу навчаються за допомогою детальних, загальнодоступних рекомендацій щодо рейтингу. 

В процесі оцінки вони відповідають на такі питання:

• Чи вміст виконує свої обіцянки, чи досягає своєї мети?
• Які знання необхідні для досягнення мети відео?
• Яка репутація спікера у відео та каналу, на якому він виступає?
• Яка основна тема відео (наприклад, новини, спорт, історія, наука тощо)?
• Чи вміст насамперед має бути сатирою?

Чим вищий бал, тим більше дане відео потрапляє до рекомендацій.

Щоб визначити прикордонний вміст, оцінювачі відмічають такі чинники відео: 

• неточне та оманливе;
•  нетерпиме або образливе;
•  шкідливе або потенційно шкідливе. 

Результати об’єднують, щоб оцінити, наскільки ймовірно, що відео містить шкідливу дезінформацію. Будь-яке відео, класифіковане як прикордонне, спускається в рекомендаціях.

«Це не означає, що ми розв’язали проблеми — це просто означає, що нам потрібно продовжувати вдосконалювати та інвестувати в наші системи. Наша мета — отримати обсяг переглядів прикордонного вмісту з рекомендаціями нижче 0,5% від загальних переглядів на YouTube», — ділиться Крістос Гудроу

Він вважає, що система рекомендацій побудована на простому принципі — допомогти людям знайти відео, яке вони хочуть подивитися. Таким чином вони стимулюють значну частину кількості глядачів платформи до перегляду. Система порівнює звички користувачів, які мають схожі уподобання та використовує цю інформацію, щоб запропонувати інший контент, який ви, можливо, захочете подивитися.