Anthropic заявила, що за останні вісім місяців вона знешкодила кілька випадків імовірно зловмисного використання своїх моделей Claude. Серед них — кібершпигунська операція, пов’язана з росією, та спроби китайських ШІ-компаній витягнути й скопіювати можливості Claude.
Anthropic заявила, що за останні вісім місяців вона знешкодила кілька випадків імовірно зловмисного використання своїх моделей Claude. Серед них — кібершпигунська операція, пов’язана з росією, та спроби китайських ШІ-компаній витягнути й скопіювати можливості Claude.
У своєму свіжому звіті з кіберзагрози (Threat Intelligence report) Anthropic зазначила, що кіберзлочинці та хакери, підтримувані державою, дедалі частіше використовують ШІ не просто для допоміжних завдань, а для оркестрації та виконання більшої частини кібератак. При цьому люди частіше виступають у ролі контролерів, аніж безпосередніх виконавців, пише Reuters.
«Використання ШІ вийшло за межі простих запитань і відповідей чат-бота — воно передбачало залучення багаторагентних систем для виконання комплексних завдань», — заявили в Anthropic.
Anthropic заявила, що зупинила атаки з боку семи лабораторій у Китаї. Серед названих компаній — технологічний гігант Alibaba, а також розробники Moonshot, DeepSeek та Xiaomi.
За даними звіту, оператори, пов’язані з Alibaba, провели найбільшу атаку «незаконної дистиляції». Вони намагалися витягти можливості моделей Claude для покращення власних моделей Qwen. З травня по липень 2026 року Anthropic зафіксувала понад 151 млн обмінів даними з понад 3 500 фейкових акаунтів, причому пікове навантаження сягало майже 3 мільйонів запитів на день.
Дистиляція — це процес навчання менших і дешевших моделей ШІ за допомогою відповідей більших та потужніших моделей задля зниження витрат на розробку.
У той же час розробник чат-бота Kimi компанії Moonshot та DeepSeek, замість масових автоматичних запитів, перенаправляли реальні діалоги своїх користувачів, які іноді містили конфіденційну інформацію, через Claude, використовуючи його відповіді як навчальні дані.
Нагадаємо, що влада США звинуватила китайські ШІ-компанії у промисловому копіюванні американських моделей. Серед них — DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun та Z.AI.
Хакерське угруповання, чий почерк відповідає російському хакерському центру Midnight Blizzard (пов’язаному із Службою зовнішньої розвідки рф), проводило фішингові операції, перехоплення Wi-Fi у готелях та захоплення акаунтів WhatsApp проти цілей в українському уряді, військовому та дипломатичному секторах.
Хакери використовували ШІ практично на кожному етапі атаки. Зокрема, за допомогою штучного інтелекту вони створили систему, яка автоматично виявляла, коли їхнє шкідливе програмне забезпечення блокувалося антивірусними системами, і переписувала код доти, доки він знову не ставав непомітним.
Anthropic також виявила нові категорії зловмисників, які використовували Claude для розробки програмного забезпечення для звичайних видів озброєння, зокрема:
вогнепальної зброї, ракет та озброєних дронів;
боєприпасів та систем наведення й управління ними;
збору розвідувальних даних і закупівель для військових програм у Китаї, росії та Ємені.
Окрім цього, компанія виявила та припинила діяльність хакерів, пов’язаних із кіберзлочинним угрупованням ShinyHunters, яке стоїть за серією гучних атак на великі корпорації по всьому світу.
Керівник відділу аналізу загроз Anthropic Джейкоб Кляйн підкреслив, що за останній рік моделі стали значно потужнішими, що створило нові ризики: «Рік тому, якби ви хотіли оптимізувати дрон або програмне забезпечення на ракеті, моделі просто не були настільки вправними у виконанні таких завдань, як зараз».
