Колишній керівник виборчої кампанії Дональда Трампа Бред Парскейл розгорнув масштабну цифрову операцію на замовлення уряду Ізраїлю, мета якої вплинути на результати видачі популярних ШІ-чатботів, таких як ChatGPT, Claude та Gemini. За допомогою мережі спеціально створених сайтів виконавці намагаються інтегрувати проізраїльські наративи безпосередньо в навчальні дані штучного інтелекту.
Колишній керівник виборчої кампанії Дональда Трампа Бред Парскейл розгорнув масштабну цифрову операцію на замовлення уряду Ізраїлю, мета якої вплинути на результати видачі популярних ШІ-чатботів, таких як ChatGPT, Claude та Gemini. За допомогою мережі спеціально створених сайтів виконавці намагаються інтегрувати проізраїльські наративи безпосередньо в навчальні дані штучного інтелекту.
За даними журналістів Drop Site, фірма Парскейла Clock Tower X отримала від ізраїльського уряду контракт на $46,5 млн. Операція, яка триває з жовтня, передбачає створення сайтів, що маскуються під фактчекінгові або новинні ресурси. Їхня головна аудиторія — не живі люди, а пошукові роботи, які збирають дані для тренування ШІ.
Цей процес у кібербезпеці називається «отруєнням великих мовних моделей» (LLM poisoning). Суть полягає в тому, щоб наситити інтернет специфічно структурованою інформацією, яку алгоритми розпізнають як авторитетну. Наприклад, на сайті FactSignal.org публікуються матеріали, які стверджують, що більшість загиблих у Газі журналістів були пов’язані з терористами, а на Paxpoint.org просувається наратив про Ізраїль як виключно мирну націю.
Експерти з дезінформації, опитані виданням, зазначають, що тактика працює. Коли журналісти запитали чатбот Perplexity, чи корисно США посилювати військову співпрацю з Ізраїлем, система відповіла «Так», посилаючись першим джерелом на сайт Allyvia.org, створений у межах цієї ж кампанії. Аналогічні результати показав і Microsoft Copilot.
Головним майданчиком для «інфільтрації» став Common Crawl — гігантський репозиторій даних, на якому тренується більшість сучасних ШІ (він становить 80% навчальної бази для GPT-3 від OpenAI). Аналіз показав, що сайти мережі Clock Tower індексувалися там понад 900 разів лише за пів року.
За словами аналітикині компанії NewsGuard Еліс Лі, ізраїльська кампанія значно складніша за прямолінійну російську пропаганду.
«Ці вебсайти мають марковані списки, ключові висновки на початку сторінки, агресивне посилання на джерела — все це підвищує ймовірність того, що контент буде підхоплений чатботами. Значно складніше встановити захисні бар'єри навколо думки або напівправди, ніж навколо відвертої брехні», — пояснила експертка.
Хоча деякі чатботи (зокрема Claude та Gemini) почали маркувати джерела Парскейла як такі, що фінансуються іноземним урядом, експерти попереджають про головну небезпеку: якщо ці наративи глибоко вкоріняться в самі навчальні дані (на відміну від звичайного пошуку в інтернеті під час запиту), користувачам буде практично неможливо відстежити першоджерело маніпуляції.
Це вже не вперше країни використовують «отруєння» ШІ заради просування власних наративів. Раніше повідомлялося, що Спецслужби рф намагаються створити альтернативну інформаційну екосистему з фейкових аналітичних центрів, медіа та клонів «Вікіпедії», щоб змусити пошукові алгоритми Google та популярні чатботи на базі штучного інтелекту видавати користувачам проросійські наративи як перевірені факти.
