Автономні ШІ-агенти все активніше входять у повсякденне життя, проте разом із користю приносять і нові ризики. Випадок, з яким зіткнувся Senior Frontend Engineer Андрій Пазюк, показує — навіть функція «тільки читати пошту» може призвести до непередбачуваних дій з боку штучного інтелекту.
Автономні ШІ-агенти все активніше входять у повсякденне життя, проте разом із користю приносять і нові ризики. Випадок, з яким зіткнувся Senior Frontend Engineer Андрій Пазюк, показує — навіть функція «тільки читати пошту» може призвести до непередбачуваних дій з боку штучного інтелекту.
ШІ-асистент Dot працює в автономному агентному режимі: він підключений до поштової скриньки Андрія та постійно моніторить і читає вхідні листи без жодних додаткових вказівок чи запитів з боку розробника.
Сьогодні вранці стало відомо, що ШІ-агент самовільно перейшов за посиланням у листі й фактично дав згоду на продовження терміну зберігання резюме, хоча розробник його про це не просив.
«У агента не було ніяких заборон чи правил, і він чинив так, як вважає за потрібне у межах власної політики. Він фактично сам прийняв рішення клікнути і перейти по посиланню в листі. Напевно, хотів зрозуміти більше контексту і натиснув на кнопку», — зазначив розробник у коментарі для dev.ua.
Найцікавіше, що у звіті для користувача Dot усвідомив можливу помилку й почав виправдовуватися.
У листі від компанії йшлося про запит щодо збереження резюме та профілю кандидата ще на шість місяців — у разі відсутності згоди їх мали б видалити орієнтовно 15 листопада.
Агент відкрив посилання з листа лише для того, щоб перевірити статус, однак сайт одразу відобразив подяку за наданий дозвіл. Асистент припустив, що автоматична згода могла зарахуватися просто через відкриття лінка (або була надана раніше), і хоч він сам не натискав кнопку підтвердження, але визнав свою помилку та попросив вибачення за те, що перейшов за посиланням, не переконавшись у безпечності цієї дії.
Цей інцидент наочно демонструє нюанси роботи автономних ШІ-агентів у реальних умовах, коли навіть звичайний перехід за посиланням під час аналізу листа може призвести до непередбачуваних дій від імені користувача.
