Двоє колишніх співробітників компанії Meta вирішили дізнатися, чому на сайті окружного реєстру штату Айова з’являються низькоякісні публікації про акції. Вони виявили мережу сайтів, що поширюють контент згенерований штучним інтелектом.
Двоє колишніх співробітників компанії Meta вирішили дізнатися, чому на сайті окружного реєстру штату Айова з’являються низькоякісні публікації про акції. Вони виявили мережу сайтів, що поширюють контент згенерований штучним інтелектом.
Якось американець Тоні Істін, який цікавиться фондовим ринком, загуглив фармацевтичну компанію, що здалася йому цікавою інвестицією. Одним із перших результатів пошуку Google на вкладці «Новини» було повідомлення від Clayton County Register, газети з північно-східної Айови, пише Wired.
Він натиснув і прочитав. Історія була перекрученою й позбавленою корисної інформації, як і всі інші публікації на фінансову тематику, що заповнювали сайт і не мали жодного стосунку до північно-східної Айови.
В інтернеті багато сміття, але це здалося Істіну дивним: навіщо маленькій газеті публікувати в блозі нікчемні пости про інвестиції в роздрібну торгівлю?
Істін, який займався розслідуваннями в Meta, зв’язався із Сандіпом Абрахамом, другом і колишнім колегою, який раніше працював в армійській розвідці та в Агентстві національної безпеки, і запропонував йому почати «копати».
Вони виявили мережі вебсайтів, переповнених згенерованими ШІ клікбейтами. Вони процвітають, заплутуючи й вводячи в оману як аудиторію, так і рекламодавців, «привласнюючи» URL-адреси, які колись належали більш авторитетним організаціям (так звані «дропи»). Сайт, який нагуглив Істін, більше не належав газеті, але її назва все ще була в його адресі.
Хоча Істін і Абрахам підозрюють, що мережа, була створена з прямою метою заробітку, вони побоюються, що більш зловмисні суб'єкти можуть використовувати таку ж тактику для просування дезінформації та пропаганди в результати пошуку.
Згідно з даними аналітичного сервісу Similar Web, домен, який зацікавив експрацівників Meta, перейшов до інших рук у серпні 2023 року, приблизно в той самий час, коли на ньому почали розміщувати фінансові новини.
Істін і Абрахам використовували той самий інструмент, щоб підтвердити, що сайт залучав більшу частину своєї читацької аудиторії за допомогою SEO, націлюючись на пошукові ключові слова про купівлю акцій для залучення кліків. Найпомітніші реферальні посилання з соціальних мереж надходили з форумів криптовалютних новин на Reddit, де люди обмінюються інвестиційними порадами.
Вся схема спрямована на отримання доходу від реклами коштом переглядів сторінок людей, які мимоволі потрапляють на спотворений контент сайту. Алгоритмічні пости прикрашаються рекламою, яку показує платформа Google. Іноді ці оголошення мають тематику фінансової торгівлі, що відповідає контенту, але іноді вони не пов’язані з нею.
Використання рекламної мережі Google для публікацій, створених штучним інтелектом, із підробленими авторами, може суперечити політиці компанії щодо видавців, яка забороняє контент, що «спотворює, перекручує або приховує» інформацію про творця контенту. Іноді сайти отримували прямий трафік із домену CCR, що свідчить про те, що його оператори могли укладати інші рекламні угоди, зокрема з фінансовими брокерами та мережею онлайн-реклами.
Спроби Істіна й Абрахама з’ясувати, хто володіє цією мережею сайтів, не дали остаточної відповіді, але вони мають підозри. Дослідники виявили, що записи старих сертифікатів безпеки пов’язували домен із сервером Linux у Німеччині. Використовуючи пошукову систему для інтернет-пристроїв Shodan.io, вони виявили, що польський вебсайт, який раніше рекламував ІТ-послуги, виявився пов’язаним з кількома доменами цієї мережі.
Усі вони були розміщені на одному німецькому сервері та публікували напрочуд схожий контент, очевидно, створений штучним інтелектом. Електронна пошта, раніше вказана на польському сайті, більше не працювала, а людина, яка стверджувала, що вона є генеральним директором, не відповіла на повідомлення в LinkedIn.
Одним з інших сайтів у цій ширшій мережі був Aboutxinjiang.com. Коли наприкінці 2023 року Істін і Абрахам почали своє розслідування, він був заповнений типовими фінансовими новинами, які, схоже, були створені штучним інтелектом, у тому числі про використання ШІ в інвестуванні.
Інтернет-архів показав, що раніше він слугував зовсім іншій меті. Спочатку сайт належав китайській організації під назвою «Відділ пропаганди партійного комітету Синьцзян-Уйгурського автономного району» і містив інформацію про університети на північному заході країни. Однак у 2014 році він закрився і не працював до 2022 року, коли його архіви були замінені польськомовним контентом, який згодом був замінений, вочевидь, автоматизованою клікбейтовою англійською мовою.
Відтоді, як Істін і Абрахам вперше виявили цей сайт, він зазнав ще однієї трансформації. На початку цього місяця він почав перенаправляти на сторінку з інформацією про польську нерухомість.
Загалом Істін та Абрахам виявили дев’ять різних сайтів, пов’язаних з польською ІТ-компанією, які, як виявилося, складали мережу клікбейтів зі штучним інтелектом. Усі сайти були обрані, оскільки вони мали попередньо створену репутацію в Google, що могло допомогти їм зайняти чільне місце в пошуковій видачі для залучення кліків.
Google стверджує, що має системи для боротьби зі спробами маніпулювання пошуковою видачею шляхом купівлі прострочених доменів, і заявляє, що вважає спамом використання штучного інтелекту для створення статей з прямою метою отримання високих позицій у пошуковій видачі.
З усім тим, цей тип мереж став більш помітним з появою генеративних інструментів штучного інтелекту.
