Anthropic очікує, що віртуальні співробітники на базі штучного інтелекту почнуть мандрувати корпоративними мережами в наступному році, повідомив керівник відділу безпеки компанії Джейсон Клінтон.
Anthropic очікує, що віртуальні співробітники на базі штучного інтелекту почнуть мандрувати корпоративними мережами в наступному році, повідомив керівник відділу безпеки компанії Джейсон Клінтон.
В інтерв’ю Axios він првідомив, що управління цими ідентифікаційними даними ШІ вимагатиме від компаній переоцінки їхніх стратегій кібербезпеки, інакше вони ризикують піддати свої мережі серйозним порушенням безпеки.
Агенти зазвичай зосереджуються на конкретному, програмованому завданні. У сфері безпеки це означає, що автономні агенти реагують на фішингові сповіщення та інші індикатори загроз.
Віртуальні співробітники просунуть цю автоматизацію на крок далі: ШІ-ідентичності матимуть власну «пам’ять», власні ролі в компанії і навіть власні корпоративні облікові записи та паролі. Вони матимуть рівень автономії, який набагато перевищує той, що мають сьогоднішні агенти.
Anthropic вважає, що на неї покладено два обов’язки — допомагати вирішувати проблеми безпеки, пов’язані зі штучним інтелектом. По-перше, це ретельне тестування моделей Claude, щоб переконатися, що вони можуть протистояти кібератакам, сказала Клінтон. По-друге, відстежувати проблеми безпеки та зменшувати можливості зловмисників зловживати Claude.
Мережеві адміністратори вже намагаються відстежувати, які облікові записи мають доступ до різних систем, і відбиватися від зловмисників, які купують повторно використані паролі облікових записів співробітників у темному інтернеті.
За словами Клінтона, під час виконання завдання співробітники зі штучним інтелектом можуть зламати систему безперервної інтеграції компанії, в якій новий код об'єднується і тестується перед розгортанням, і тим самим порушити правила.
«У старому світі це карається, — сказав він. — Але в новому світі, хто несе відповідальність за агента, який працював пару тижнів і дійшов до цього?»
Клінтон каже, що безпека віртуальних співробітників — одна з найбільших сфер безпеки, в яку компанії, що займаються розробкою ШІ, можуть інвестувати в найближчі кілька років.
Він особливо зацікавлений у рішеннях, які забезпечують видимість того, що робить обліковий запис ШІ-співробітника в системі, а також в інструментах, які створюють нову систему класифікації облікових записів, яка краще враховує віртуальних співробітників.
