Компанія Anthropic заявила, що три китайські компанії створили понад 24 000 фейкових акаунтів для роботи з ШІ-чатботом Claude, щоб вдосконалити власні моделі.
Компанія Anthropic заявила, що три китайські компанії створили понад 24 000 фейкових акаунтів для роботи з ШІ-чатботом Claude, щоб вдосконалити власні моделі.
Лабораторії DeepSeek, Moonshot AI та MiniMax нібито генерували понад 16 мільйонів чатів з Claude через ці акаунти, використовуючи техніку, яка називається «дистиляція». Про це пише TechCrunch.
Anthropic заявила, що лабораторії «націлилися на найбільш диференційовані можливості Claude: агентне міркування, використання інструментів та кодування».
Дистиляція — це поширений метод навчання, який лабораторії штучного інтелекту використовують для своїх моделей, щоб створити менші та дешевші версії, але конкуренти можуть використовувати його, щоб фактично копіювати результати роботи інших лабораторій. OpenAI на початку цього місяця надіслала меморандум законодавцям Палати представників, в якому звинуватила DeepSeek у використанні дистиляції для імітації своїх продуктів.
Масштаби кожної атаки відрізнялися за обсягом. Anthropic відстежила понад 150 000 чатів від DeepSeek, які, здавалося, були спрямовані на поліпшення базової логіки й узгодження, зокрема щодо альтернатив, захищених від цензури, для запитів, чутливих до політики.
Moonshot AI мала понад 3,4 мільйона чатів, спрямованих на агентне міркування та використання інструментів, кодування та аналіз даних, розробку агентів для використання комп’ютерів та комп’ютерний зір.
13 мільйонів чатів MiniMax були спрямовані на агентне кодування, використання інструментів та оркестрування. Anthropic заявила, що змогла спостерігати за роботою MiniMax, оскільки вона перенаправила майже половину свого трафіку, щоб викачати можливості з останньої моделі Claude після її запуску.
Anthropic заявляє, що продовжуватиме інвестувати в засоби захисту, які ускладнюють виконання дистиляційних атак і полегшують їхнє виявлення, але закликає до «скоординованої реакції з боку галузі штучного інтелекту, хмарних провайдерів та політиків». Компанія зазначила, що масштаби видобутку, які здійснювали DeepSeek, MiniMax і Moonshot, «вимагають доступу до передових чипів».
«Тому атаки дистиляції підкріплюють обґрунтованість експортного контролю: обмежений доступ до чіпів обмежує як пряме навчання моделей, так і масштаби незаконної дистиляції», — йдеться в блозі Anthropic.
Anthropic також зазначила, що дистиляція не тільки загрожує підірвати домінування США в галузі ШІ, але й може створити ризики для національної безпеки.
