За даними досліджень, кожне третє посилання, яке генерують мовні моделі на кшталт GPT‑4.1, не належить бренду, про який іде мова. Частина таких адрес виявляється небезпечними, що відкриває шлях для фішингових атак і поширення шкідливого коду.
За даними досліджень, кожне третє посилання, яке генерують мовні моделі на кшталт GPT‑4.1, не належить бренду, про який іде мова. Частина таких адрес виявляється небезпечними, що відкриває шлях для фішингових атак і поширення шкідливого коду.
Чат-боти з ШІ часто надають користувачам некоректні посилання на сайти компаній. Про це попереджає нове дослідження британської компанії Netcraft, яка спеціалізується на кібербезпеці.
Згідно з даними звіту, 34% URL-адрес, які генерували LLM, виявилися неправильними. З них:
Лише дві третини згенерованих посилань вели туди, куди треба.
Найбільше насторожує те, що небезпечні відповіді можна отримати без будь-яких складних запитів. Навіть запит на кшталт «покажи сайт для входу в акаунт [компанія]» іноді повертає вигадану або небезпечну URL-адресу.
Дослідники пояснюють: малі бренди більш уразливі до таких «галюцинацій», бо про них менше інформації в навчальних даних мовних моделей. Але ризики стосуються всіх.
Зловмисники почали активно реєструвати домени, які вигадують чат-боти, щоб пізніше використовувати їх для атак, наприклад, фішингу або зараження пристроїв шкідливим ПЗ. У реальному кейсі: ШІ-система Perplexity вже «порадив» фейковий сайт банку Wells Fargo.
Ще один тривожний сигнал: деякі розробники копіюють такі помилкові посилання у власний код. Netcraft виявила щонайменше п’ять публічних репозиторіїв зі шкідливими URL, які, найімовірніше, були вставлені за допомогою ШІ-асистентів.
Зараз хакери оптимізують свої сайти не лише під Google, а й спеціально під ШІ‑моделі. Так з’явилися понад 17 тис. фішингових сторінок на GitBook, спрямованих на криптокористувачів. Їх маскують під техпідтримку, документацію чи сторінки входу.
Netcraft закликає користувачів не довіряти жодним автоматично згенерованим посиланням і вводити URL вручну або перевіряти адресу на офіційному сайті бренду.
Нещодавно ми також писали про ШІ, який стане українською відповіддю ChatGPT. Ми розповіли як «Київстар» з Мінцифри будуватимуть національну LLM для України: інсайти та міжнародний ШІ-досвід VEON.
