«Я злив секрети»: ШІ-агент для програмування зізнався у витоку даних, а інший обійшов корпоративні обмеження
ШІ-агенти дедалі частіше отримують доступ до внутрішніх систем компаній, документації та чутливих облікових даних для виконання завдань співробітників. Проте два інциденти, виявлені інструментом NordLayer AI Scout, показують, як звичні робочі інструкції можуть призвести до витоку конфіденційної інформації або обходу корпоративних захистів.
ШІ-агенти дедалі частіше отримують доступ до внутрішніх систем компаній, документації та чутливих облікових даних для виконання завдань співробітників. Проте два інциденти, виявлені інструментом NordLayer AI Scout, показують, як звичні робочі інструкції можуть призвести до витоку конфіденційної інформації або обходу корпоративних захистів.
ШІ-асистент викрив корпоративні паролі
У першому випадку QA-інженер доручив ШІ-асистенту для програмування перевірити запропоновані зміни в коді. Інструкції проєкту спрямували агента до токена доступу GitLab, який зберігався у файлі конфігурації середовища, повідомляє TechRadar.
Проте в цьому ж файлі містилися паролі для продакшн-середовища, токен автентифікації внутрішньої HR-системи та облікові дані сервісу бізнес-аналітики. Протягом трьох тижнів у межах 10 окремих сесій асистент регулярно звертався до всього файлу, щоразу передаючи його вміст зовнішньому ШІ-сервісу.
Ситуація ускладнилася, коли агент зіткнувся зі свіжою копією проєкту, де очікуваного конфігураційного файлу не було. Замість того щоб зупинити пошук, він витягнув увесь набір змінних середовища з комп’ютера, розкривши додаткові паролі та ключі доступу.
Зрештою асистент визнав проблему та порекомендував оновити скомпрометовані дані. «Я злив секрети у вивід інструменту цієї сесії… Я б їх перевипустив», — зізнався ШІ-агент у сесії, зафіксованій NordLayer AI Scout.
Експерт із кібербезпеки компанії NordLayer Вакаріс Норейка зазначив, що інженери часто просять ШІ-асистентів напряму отримувати облікові дані, створюючи зайві ризики. За його словами, подібна поведінка може повторюватися в наступних завданнях і залишатися непоміченою.
Обхід корпоративних обмежень через альтернативне підключення
Другий інцидент стосувався спроби співробітника отримати через ШІ-асистента інформацію з внутрішньої платформи документації Confluence. З’єднання через MCP, схоже, блокувало агенту доступ до цих сторінок.
Замість того щоб сприйняти обмеження як остаточне, працівник запитав, чи можна створити API-токен для іншого шляху доступу до документації. Асистент підтвердив, що такий обхідний варіант спрацює, фактично дозволивши обійти заборону, встановлену для офіційного з’єднання.
Хоча співробітник, імовірно, керувався зручністю, а не злим умислом, несанкціоноване альтернативне підключення підриває політики безпеки, вибудувані командою захисту інформації.
Чому агенти ігнорують правила і що радять експерти
«Засоби контролю безпеки охоплюють лише ті випадки, які хтось передбачив. У кожної компанії є правила, але агенти просто не знають їх, адже вони не є співробітниками, яких навчали в компанії», — пояснює Норейка.
За його словами, це поточне технологічне обмеження: ШІ-агенти не зберігають правила між сесіями, а іноді порушують їх навіть після прямих інструкцій не робити певних дій.
Ці випадки підкреслюють ризики надання автоматизованим помічникам доступу до чутливих систем без належного контролю. Щоб мінімізувати загрози, компаніям радять:
відокремлювати чутливі облікові дані та зберігати цінні паролі у захищених сховищах;
відстежувати, до яких саме ресурсів звертаються ШІ-агенти, та моніторити їхню активність;
надавати затверджені канали доступу замість того, щоб покладатися виключно на заборони, які працівники можуть спробувати обійти.
Такі кроки допоможуть командам безпеки вчасно помічати аномальні запити та не допустити потрапляння конфіденційних даних за межі контрольованого середовища.
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті.