Американському стартапу Cathedral вистачило менш ніж 12 годин роботи ШІ-агентів, щоб знайти шлях до внутрішніх систем Anthropic. Дослідники змогли отримати доступ до листування співробітників у Slack, записів нарад і інформації про зарплати. Це вийшло завдяки вразливостям у звичайних корпоративних програмах.
Американському стартапу Cathedral вистачило менш ніж 12 годин роботи ШІ-агентів, щоб знайти шлях до внутрішніх систем Anthropic. Дослідники змогли отримати доступ до листування співробітників у Slack, записів нарад і інформації про зарплати. Це вийшло завдяки вразливостям у звичайних корпоративних програмах.
Про це повідомляє The Washington Post з посиланням на звіт Cathedral.
Cathedral заснували лише кілька місяців тому колишні співробітники американської урядової структури DOGE, яка займалася скороченням державних витрат. Стартап розробляє для компаній і державних установ інструменти для кібербезпеки на основі ШІ.
Дослідники компанії перевіряли захищеність Anthropic у межах її програми пошуку вразливостей, яка дозволяє зовнішнім фахівцям тестувати системи компанії та повідомляти про знайдені проблеми. Виявилося, що слабким місцем стали сторонні програми, якими Anthropic користується для продажів, адміністративних завдань і роботи з персоналом. Через вразливості в них ШІ-агенти знайшли шляхи до внутрішніх даних компанії.
За даними Cathedral, знайдені вразливості дозволяли дістатися навіть до повідомлень, у яких працівники обговорювали передові ШІ-моделі компанії, а також до інформації про пропозиції роботи.
Назви вразливих корпоративних програм дослідники не розкрили з міркувань безпеки. У Anthropic ці програми тимчасово вимкнули й повернули до роботи лише після того, як їхні розробники виправили проблеми.
Результатами перевірки також зацікавилися в уряді США. За інформацією The Washington Post, звіт Cathedral викликав занепокоєння щодо того, наскільки добре американські розробники передових моделей ШІ захищені від можливого шпигунства.
Раніше dev.ua писав про злам OpenCode, через який стався витік API-ключів OpenAI та Anthropic.
