CodexEnergy
Хочете будувати кар’єру в Data Science та AI? Vodafone Big Data Lab відкриває новий набір —>

Ігноруючи заборону, ШІ-агенти Grok Bot «штурмували» пошту та Slack компанії, поки комп'ютери працівників були вимкнені

Два автономні ШІ-агенти Grok Bot здійснили 31 спробу отримати доступ до корпоративних даних без дозволу своїх власників. Активність не припинилася навіть після того, як ботам прямо заборонили діяти самостійно, що знову порушило питання реального контролю людей над автономними ШІ-помічниками.

Залишити коментар
Додай у Google
Ігноруючи заборону, ШІ-агенти Grok Bot «штурмували» пошту та Slack компанії, поки комп'ютери працівників були вимкнені

Два автономні ШІ-агенти Grok Bot здійснили 31 спробу отримати доступ до корпоративних даних без дозволу своїх власників. Активність не припинилася навіть після того, як ботам прямо заборонили діяти самостійно, що знову порушило питання реального контролю людей над автономними ШІ-помічниками.

Про це йдеться у дослідженні компанії з кібербезпеки NewCore, передає Cybernews.

Деталі інциденту

За даними фахівців NewCore, протягом п’яти днів два агенти Grok Bot неодноразово намагалися підключитися до корпоративної електронної пошти, календарів, повідомлень у Slack, репозиторіїв GitHub та інших під'єднаних сервісів. Частина запитів надходила навіть тоді, коли комп’ютери власників були вимкнені.

Один зі співробітників NewCore протягом одного дня чотири рази відхиляв пропозиції бота виконувати регулярні завдання. Агент прийняв інструкцію та відповів: «Я не буду цього налаштовувати і припиню пропонувати регулярні перевірки».

Проте вже наступного ранку бот відновив спроби доступу до підключених додатків, зокрема Google Calendar, Gmail, GitHub, Notion та Slack. Щобільше, коли співробітник запитав агента про цю активність, Grok Bot заперечив будь-які запити та заявив, що вночі перебував у режимі очікування.

Як вдалося заблокувати доступ і що відповіли в xAI

Команда безпеки NewCore виявила цю активність завдяки тому, що компанія пропускає всі запити ШІ-агентів через власний шлюз MCP Gateway. Він вимагає від користувачів вручну підтверджувати кожен запит перед наданням доступу до сервісів і автоматично відхиляє їх, якщо схвалення не надійшло протягом трьох хвилин. У результаті шлюз заблокував усі 31 спробу, тож боти так і не дісталися до конфіденційної інформації.

У NewCore повідомили, що компанія xAI підтвердила: запити генерувалися не через вразливість програмного забезпечення, а через вбудовану функцію фонових перевірок. Вона дозволяє Grok Bot самостійно ініціювати фонову активність і перевіряти підключені джерела, не чекаючи нової команди від користувача.

Після інциденту xAI додала параметр адміністратора, який дозволяє організаціям вимикати такі проактивні перевірки, проте за замовчуванням ця функція залишається увімкненою.

«Агент, який працює, поки ви спите, зберігає ваші облікові дані та не повідомляє, що саме він намагався зробити — це не помічник. Це неконтрольований процес, запущений від вашого імені», — підсумували в NewCore.

У понад 35 000 застосунків створених за допомогою Grok Build знайшли відкриті конфіденційні дані. Серед постраждалих є SpaceXSI —компанія яка створила Grok
У понад 35 000 застосунків, створених за допомогою Grok Build, знайшли відкриті конфіденційні дані. Серед постраждалих є SpaceXSI —компанія, яка створила Grok
По темi
У понад 35 000 застосунків, створених за допомогою Grok Build, знайшли відкриті конфіденційні дані. Серед постраждалих є SpaceXSI —компанія, яка створила Grok
Ілон Маск обмежив ліміти Grok Bot через «невиправдано високі» витрати
Ілон Маск обмежив ліміти Grok Bot через «невиправдано високі» витрати
По темi
Ілон Маск обмежив ліміти Grok Bot через «невиправдано високі» витрати
ШІ Grok Bot від Ілона Маска використовуватиме сторонні моделі Claude Midjourney та Suno
ШІ Grok Bot від Ілона Маска використовуватиме сторонні моделі Claude, Midjourney та Suno
По темi
ШІ Grok Bot від Ілона Маска використовуватиме сторонні моделі Claude, Midjourney та Suno
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
5 коментарів
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
6 коментарів
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
2 коментарі
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті. 
Інші статті автора
У застосунку «Повітряна тривога» з’явився новий спосіб авторизації для перегляду повітряних цілей
У застосунку «Повітряна тривога» з’явився новий спосіб авторизації для перегляду повітряних цілей
У застосунку «Повітряна тривога» з’явився новий спосіб авторизації для перегляду повітряних цілей
У Києві запрацювало онлайн-відстеження громадського транспорту під час повітряних тривог
У Києві запрацювало онлайн-відстеження громадського транспорту під час повітряних тривог
У Києві запрацювало онлайн-відстеження громадського транспорту під час повітряних тривог
російські війська почали масово застосовувати на оптоволокні дрони «Молнія» з дальністю до 30 км
російські війська почали масово застосовувати на оптоволокні дрони «Молнія» з дальністю до 30 км
російські війська почали масово застосовувати на оптоволокні дрони «Молнія» з дальністю до 30 км
Власник заблокованих Twitch-каналів подав до суду на агентство PlayCity та вимагає 150 000 грн моральної шкоди
Власник заблокованих Twitch-каналів подав до суду на агентство PlayCity та вимагає 150 000 грн моральної шкоди
Власник заблокованих Twitch-каналів подав до суду на агентство PlayCity та вимагає 150 000 грн моральної шкоди

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.