Марія Бровінська ШІ (ai) 8 мая 2024, 08:08

OpenAI запустила инструмент для распознавания дипфейков, созданных DALL-E 3

OpenAI запускает инструмент, который может обнаруживать изображения, созданные его генератором преобразования текста в изображение DALL-E 3.

Оставить комментарий

OpenAI запустила инструмент для распознавания дипфейков, созданных DALL-E 3

OpenAI запускает инструмент, который может обнаруживать изображения, созданные его генератором преобразования текста в изображение DALL-E 3.

Появление новой разработки назрело из-за беспокойства по поводу влияния контента, созданного искусственным интеллектом, на глобальные выборы.

Компания заявила, что во время внутреннего тестирования инструмент правильно идентифицировал изображения, созданные DALL-E 3, примерно в 98% случаев и может обрабатывать такие распространенные модификации, как сжатие, обрезание и изменение насыщенности, с минимальным влиянием.

Автор ChatGPT также планирует добавить устойчивые к подделке водяные знаки для обозначения цифрового контента, такого как фотографии или аудио, сигналом, который будет трудно удалить.

В рамках этих усилий OpenAI также присоединился к отраслевой группе, включающей Google, Microsoft и Adobe, и планирует создать стандарт, который поможет отслеживать происхождение различных медиа.

В апреле, во время всеобщих выборов в Индии, фальшивые видео с двумя актерами Болливуда, критикующими премьер-министра Нарендра Моди, стали вирусными в интернете.

Распространение контента, созданного искусственным интеллектом, и глубокие фейки все чаще используются в Индии и на выборах других стран мира, в частности в США, Пакистане и Индонезии.

OpenAI заявила, что присоединяется к Microsoft в создании фонда общественной устойчивости в размере $2 млн для поддержки образования в области ИИ.