7 ноября Microsoft обнародовала свой третий Отчет о прозрачности Xbox, который является первым, содержащим раздел об «улучшении модерации содержимого и безопасности платформы с помощью ИИ».
7 ноября Microsoft обнародовала свой третий Отчет о прозрачности Xbox, который является первым, содержащим раздел об «улучшении модерации содержимого и безопасности платформы с помощью ИИ».
Для обеспечения безопасности онлайн-сообщества Xbox компания использует два инструмента на основе ИИ: Community Sift и Turing Bletchley v3.
Community Sift — это система модерации содержимого на основе искусственного интеллекта, созданная дочерней компанией Microsoft TwoHat. Она оценивает отчеты игроков, чтобы определить, какие из них нуждаются в дополнительном внимании со стороны человека-модератора.
Согласно отчету Microsoft, среди миллиардов человеческих взаимодействий, которые система Community Sift отфильтровала в этом году, есть более 36 млн отчетов игроков Xbox на 22 языках.
Turing Bletchley v3 — многоязычная модель и обновленная версия инструмента, который впервые запустил Microsoft в 2021 году.
По словам компании, эта модель автоматически сканирует все созданные пользователем изображения на платформе Xbox, включая пользовательские Gamerpics и другие изображения профиля. Тогда система Bletchley использует «свои мировые знания, чтобы понять много нюансов по поводу того, какие изображения приемлемы на основе стандартов сообщества на платформе Xbox», передавая любое подозрительное содержание в очередь для модерации человеком.
Bletchley способствовала блокированию 4,7 млн изображений в первой половине 2023 года, что на 39% больше, чем за предыдущие шесть месяцев. Это уменьшение Microsoft объясняет своими инвестициями в искусственный интеллект.
Также dev.ua сообщал, что Microsoft заключила многолетнее партнерство с компанией Inworld AI по разработке инструментов для Xbox, которые позволят разработчикам создавать персонажей, истории и квесты с искусственным интеллектом.
