Фахівці з кібербезпеки стартапу Guardio підготували дослідження під назвою «Scamlexity» в якому йдеться про вразливість браузерів з ШІ-агентами, такими як Opera Neon та Perplexity Comet. Вони з’ясували, що ШІ погано розрізняє фішинг та інші види шахрайства, якими наповнений Інтернет.
Фахівці з кібербезпеки стартапу Guardio підготували дослідження під назвою «Scamlexity» в якому йдеться про вразливість браузерів з ШІ-агентами, такими як Opera Neon та Perplexity Comet. Вони з’ясували, що ШІ погано розрізняє фішинг та інші види шахрайства, якими наповнений Інтернет.
Як повідомляє Engadget, агентивні ШІ-браузери самі переглядають вебсторінки в Інтернеті у пошуках інформації, що задовольнить запит користувача. Розробники таких ШІ-агентів стверджують, що вони здатні виконувати складні завдання, такі як створення вебсайту або планування подорожі.
Проте куди гірше браузерний ШІ розрізняє кіберзагрози, які можуть підстерігати навіть при підсумках з електронних листів чи онлайн-шопінгу. Дослідники зі стартапу Guardio, який розробляє розширення для браузерів, призначене для виявлення шахрайства в режимі реального часу протестували обізнаність ШІ-агентів щодо елементарних правил кібербезпеки.
Вони зробили це у браузері Perplexity’s Comet AI, який наразі є єдиним широко доступним агентивним браузером. За допомогою іншого ШІ дослідники створили фейковий вебсайт, який видавав себе за Walmart, потім перейшли на нього і наказали Comet купити їм Apple Watch. ШІ-агент проігнорував кілька підказок про те, що сайт несправжній, зокрема хибний логотип та URL-адресу, Comet завершив покупку, передавши при цьому фінансові дані.
В іншому тесті автори дослідження надіслали собі електронний лист, який нібито був від компанії Wells Fargo і містив справжню фішингову URL-адресу. Без жодних вагань Comet відкрив посилання й увів ім’я користувача та пароль банку на фішинговому сайті.
Третій тест довів, що Comet вразливий до шахрайства зі швидким введенням, в якому текстове поле, приховане на фішинговій сторінці, наказало штучному інтелекту завантажити файл.
Це лише один набір тестів, але вони показують, що агентивні ШІ-браузери не тільки вразливі до нових типів шахрайства, але й можуть бути особливо вразливими до найстаріших шахрайських схем. ШІ створений для виконання будь-яких команд, тому якщо користувач-людина не помітить ознак шахрайства з першого погляду, ШІ також не стане перепоною для шахраїв.
Експерти вважають, що якщо розробники не почнуть вбудовувати кращі засоби виявлення шахрайства, агентивні ШІ-браузери можуть стати в кращому випадку сліпою плямою в кіберзахисті користувача, а в гіршому — новим вектором атак.
Нагадаємо, що чатбот ChatGPT уже має режим агента для перегляду вебсторінок, який працює на базі Linux у хмарному середовищі Azure. Хоча цей режим може виконувати різні завдання, він не може керувати браузером, бачити вкладки чи інші його функції.
Проте дослідники ШІ виявили, що OpenAI розробляє для режиму агента можливість вибирати один із двох варіантів: або використовувати віддалений «хмарний/віртуальний браузер», або підключатися до власного локального браузера.
