Amazon Web Services (AWS) представила Strands Box — інструмент, який може допомогти розробникам контролювати дії ШІ-агентів. Він дозволяє встановлювати правила, щоб штучний інтелект не міг видаляти важливі файли, виконувати заборонені команди або отримувати доступ до конфіденційних даних.
Amazon Web Services (AWS) представила Strands Box — інструмент, який може допомогти розробникам контролювати дії ШІ-агентів. Він дозволяє встановлювати правила, щоб штучний інтелект не міг видаляти важливі файли, виконувати заборонені команди або отримувати доступ до конфіденційних даних.
Про це компанія повідомила в своєму блозі.
Strands Box створює для агента спеціальне ізольоване середовище, у якому розробник визначає, що дозволено робити, а що ні. Тож інструмент дозволяє встановлювати правила, які залежать від послідовності дій ШІ-помічника. Наприклад, якщо агент спочатку відкрив файл із конфіденційними даними, система може заблокувати його подальші спроби передати інформацію стороннім сервісам. А якщо ШІ спробує видалити захищені файли, система зупинить команду до того, як вони зникнуть.
Для таких обмежень використовується система правил Dogwood. Тож якщо агент намагається зробити щось заборонене, Strands Box блокує дію, та повідомляє причину відмови. Інструмент також дозволяє працювати з API-ключами, не показуючи їх самому ШІ-агенту.
Раніше dev.ua писав, що Microsoft представила схожий інструмент Microsoft Execution Containers (MXC) для захисту від небажаних дій ШІ-агентів у Windows.
