Два бывших сотрудника компании Meta решили узнать, почему на сайте окружного реестра штата Айова появляются низкокачественные публикации об акциях. Они обнаружили сеть сайтов, распространяющих контент, сгенерированный искусственным интеллектом.
Два бывших сотрудника компании Meta решили узнать, почему на сайте окружного реестра штата Айова появляются низкокачественные публикации об акциях. Они обнаружили сеть сайтов, распространяющих контент, сгенерированный искусственным интеллектом.
Как-то интересующийся фондовым рынком американец Тони Истин загуглил фармацевтическую компанию, показавшуюся ему интересной инвестицией. Одним из первых результатов поиска Google на вкладке «Новости» было сообщение от Clayton County Register, газеты из северо-восточной Айовы, пишет Wired.
Он нажал и прочел. История была извращена и лишена полезной информации, как и все другие публикации на финансовую тематику, заполнявшие сайт и не имеющие никакого отношения к северо-восточной Айове.
В интернете много мусора, но это показалось Истине странным: зачем маленькой газете публиковать в блоге никудышные посты об инвестициях в розничную торговлю?
Истин, занимавшийся расследованиями в Meta, связался с Сандипом Абрахамом, другом и бывшим коллегой, ранее работавшим в армейской разведке и Агентстве национальной безопасности, и предложил ему начать «копать».
Они нашли сети вебсайтов, переполненных сгенерированными ИИ кликбейтами. Они преуспевают, запутывая и вводя в заблуждение как аудиторию, так и рекламодателей, «присваивая» URL-адреса, когда-то принадлежавшие более авторитетным организациям (так называемые «дропы»). Сайт, который нагуглил Истин, больше не принадлежал газете, но ее название все еще было в его адресе.
Хотя Истин и Абрахам подозревают, что сеть была создана с прямой целью заработка, они опасаются, что более злонамеренные субъекты могут использовать такую же тактику для продвижения дезинформации и пропаганды в результаты поиска.
Согласно данным аналитического сервиса Similar Web, домен, заинтересовавший экс-работников Meta, перешел в другие руки в августе 2023 года, примерно в то же время, когда на нем начали размещать финансовые новости.
Истин и Абрахам использовали тот же инструмент, чтобы подтвердить, что сайт привлекал большую часть своей читательской аудитории с помощью SEO, нацеливаясь на поисковые ключевые слова о покупке акций для привлечения кликов. Самые заметные реферальные ссылки по социальным сетям поступали с форумов криптовалютных новостей на Reddit, где люди обмениваются инвестиционными советами.
Вся схема направлена на получение дохода от рекламы за счет просмотров страниц людей, невольно попадающих на искаженный контент сайта. Алгоритмические посты украшаются рекламой, отображаемой платформой Google. Иногда эти объявления имеют тематику соответствующей контенту финансовой торговли, но иногда они не связаны с ней.
Использование рекламной сети Google для публикаций, созданных искусственным интеллектом, с поддельными авторами, может противоречить политике компании в отношении издателей, которая запрещает контент, «искажающий, извращающий или скрывающий» информацию о создателе контента. Иногда сайты получали прямой трафик из домена CCR, что свидетельствует о том, что его операторы могли заключать другие рекламные сделки, в том числе с финансовыми брокерами и сетью онлайн-рекламы.
Попытки Истина и Абрахама выяснить, кто владеет этой сетью сайтов, не дали окончательного ответа, но у них есть подозрения. Исследователи обнаружили, что записи старых сертификатов безопасности связывали домен с сервером Linux в Германии. Используя поисковую систему для интернет-устройств Shodan.io, они обнаружили, что польский вебсайт, ранее рекламировавший ИТ-услуги, оказался связан с несколькими доменами этой сети.
Все они были размещены на одном немецком сервере и публиковали удивительно похожий контент, очевидно, созданный искусственным интеллектом. Электронная почта, ранее указанная на польском сайте, больше не работала, а человек, утверждавший, что она является генеральным директором, не ответил на сообщение в LinkedIn.
Одним из других сайтов в этой более широкой сети был Aboutxinjiang.com. Когда в конце 2023 года Истин и Абрахам начали свое расследование, он был заполнен типичными финансовыми новостями, которые, похоже, были созданы искусственным интеллектом, в том числе об использовании ИИ в инвестировании.
Интернет-архив показал, что раньше он служил совсем иной цели. Первоначально сайт принадлежал китайской организации под названием «Отдел пропаганды партийного комитета Синьцзян-Уйгурского автономного района» и содержал информацию об университетах на северо-западе страны. Однако в 2014 году он закрылся и не работал до 2022 года, когда его архивы были заменены польскоязычным контентом, который впоследствии был заменен, очевидно, на автоматизированном кликбейтовом английском языке.
С тех пор как Истин и Абрахам впервые обнаружили этот сайт, он претерпел еще одну трансформацию. В начале этого месяца он начал перенаправлять на страницу с информацией о польской недвижимости.
Истин и Абрахам обнаружили девять различных сайтов, связанных с польской ИТ-компанией, которые, как оказалось, составляли сеть кликбейтов с искусственным интеллектом. Все сайты были выбраны, поскольку они имели предварительно созданную репутацию в Google, что могло помочь им занять ведущее место в поисковой выдаче для привлечения кликов.
Google утверждает, что имеет системы для борьбы с попытками манипулирования поисковой выдачей покупкой просроченных доменов, и заявляет, что считает спамом использование искусственного интеллекта для создания статей с прямой целью получения высоких позиций в поисковой выдаче.
Со всем этим этот тип сетей стал более заметным с появлением генеративных инструментов искусственного интеллекта.
