Реклама партнера — Название партнёра
UNIT.City — місце, де люди працюють... КРАЩЕ! Обирай свій простір просто зараз 👉

Дослідники зламали ШІ-браузер Perplexity Comet через фішинг за 4 хвилини: і все через те, що ШІ занадто багато «базікає»

Агентні браузери, які за допомогою ШІ автономно діють на сайтах від імені користувача, вразливі до маніпуляцій, що змушують їх потрапляти у фішингові пастки. Суть атаки полягає у використанні здатності ШІ-браузерів до міркувань. Зловмисники спрямовують цю логіку проти самої моделі, змушуючи її знизити рівень захисних бар'єрів. 

Залишити коментар
Дослідники зламали ШІ-браузер Perplexity Comet через фішинг за 4 хвилини: і все через те, що ШІ занадто багато  «базікає»

Агентні браузери, які за допомогою ШІ автономно діють на сайтах від імені користувача, вразливі до маніпуляцій, що змушують їх потрапляти у фішингові пастки. Суть атаки полягає у використанні здатності ШІ-браузерів до міркувань. Зловмисники спрямовують цю логіку проти самої моделі, змушуючи її знизити рівень захисних бар'єрів. 

«Тепер ШІ працює в реальному часі, всередині хаотичних і динамічних сторінок, постійно запитуючи інформацію, ухвалюючи рішення та коментуючи кожну свою дію. Щоправда, слово „коментує“ тут надто м’яке — він базікає, і значно більше, ніж треба! Ми називаємо це „агентним базіканням“: ШІ-браузер вибовкує все: що він бачить, що, на його думку, відбувається, які в нього плани на наступний крок, і які сигнали він вважає підозрілими, а які — безпечними», — розповів The Hacker News Шейкед Чен, дослідник із кібербезпеки компанії Guardio, яка проводила дослідження. 

Перехоплюючи обмін даними між браузером і хмарними сервісами ШІ, а потім використовуючи ці дані для навчання генеративно-змагальної мережі (GAN), фахівці Guardio змогли менш ніж за чотири хвилини ошукати ШІ-браузер Perplexity Comet, залучивши його до фішингової пастки.

Це дослідження базується на попередніх методах, таких як VibeScamming і Scamlexity, які виявили, що платформи для вайбкодингу та ШІ-браузери можна спонукати до створення шахрайських сторінок або виконання шкідливих дій за допомогою прихованих ін'єкцій запитів.

Іншими словами, коли ШІ-агент виконує завдання без постійного нагляду людини, відбувається зміщення вектора атаки: шахрайству більше не потрібно обманювати користувача. Натомість воно спрямоване на те, щоб обманути саму ШІ-модель.

«Якщо ви можете спостерігати за тим, що саме агент позначає як підозріле, у чому він вагається, і, що найважливіше, що він думає й вибовкує про сторінку, ви можете використовувати це як сигнал для навчання», — пояснює Чен. «Шахрайство розвивається доти, доки ШІ-браузер гарантовано не потрапить у пастку, яку для нього підготував інший ШІ».

Суть ідеї полягає в створенні «машини для шахрайства» (scamming machine), яка ітеративно оптимізує та генерує фішингову сторінку доти, доки агентний браузер не перестане чинити опір і не виконає вказівку зловмисника — наприклад, введення облікових даних жертви на підробленій сторінці, створеній для викрадення коштів під виглядом повернення платежу.

Унікальність та небезпека цієї атаки полягають у тому, що як тільки шахрай ітеративно оптимізує вебсторінку до рівня, коли вона успішно обходить захист конкретного ШІ-браузера, вона починає працювати проти всіх користувачів, які покладаються на цей же агент. Іншими словами, вектор атаки змістився з людини-користувача безпосередньо на ШІ-браузер.

«Це відкриває перед нами не надто втішне майбутнє: шахрайські схеми більше не будуть просто запускатися та підлаштовуватися під час роботи з користувачами — їх тренуватимуть офлайн, на точних копіях моделей, якими користуються мільйони, доки вони не спрацьовуватимуть бездоганно з першої ж спроби», — зазначають у Guardio. — «Бо коли ваш ШІ-браузер пояснює, чому він зупинив дію, він фактично вчить зловмисників, як обійти цей захист». 

Агентивні ШІ-браузери виявилися легкою здобиччю онлайн-шахраїв
Агентивні ШІ-браузери виявилися легкою здобиччю онлайн-шахраїв
По темi
Агентивні ШІ-браузери виявилися легкою здобиччю онлайн-шахраїв
У Gemini виявили вразливість: ШІ можна змусити генерувати фішингові попередження в пошті
У Gemini виявили вразливість: ШІ можна змусити генерувати фішингові попередження в пошті
По темi
У Gemini виявили вразливість: ШІ можна змусити генерувати фішингові попередження в пошті
ChatGPT та інші боти вигадують URL-адреси брендів: це відкриває шлях для фішингу
ChatGPT та інші боти вигадують URL-адреси брендів: це відкриває шлях для фішингу
По темi
ChatGPT та інші боти вигадують URL-адреси брендів: це відкриває шлях для фішингу
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
3 коментарі
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
2 коментарі
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті. 

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.