Інтернетом заволоділи боти. Вони вдало маскуються під людей і швидко замінюють справжній контент штучним. Чи є шанс у нас відвоювати інтернет?

Уже не 50 на 50

Скоріш за все, у цьому році відбудеться епохальна подія у світі інтернету: трафік від ботів перевищить перегляди від живих людей. 

Так, згідно з оцінкою 2024 Imperva Bad Bot Report (це глобальний аналіз трафіку автоматизованих ботів в Інтернеті), вже в минулому році на боти припадало 49,6%. За 2023 рік нелюдський трафік збільшився на 2%. Додамо приблизно стільки ж за цей рік, і отримаємо монополію ботів в інтернеті.

Причому, за даними аналітиків Imperva, 32% трафіку у минулому році йшло саме з поганих ботів, мета яких — шкодити, дезінформувати або ж в принципі зробити щось шкідливе. 

«Боти є однією з найпоширеніших і зростаючих загроз, з якими стикається кожна галузь, — каже Нанхі Сінгх, генеральний менеджер із безпеки додатків у Imperva, компанії Thales, — Від простого сканування вебсайтів до зловмисного захоплення облікових записів, спаму та атаки на відмову в обслуговуванні, боти негативно впливають на прибутки організації, погіршуючи якість онлайн-сервісів і вимагаючи додаткових інвестицій в інфраструктуру та підтримку клієнтів». 

Атаки ботів можуть призвести до компрометації облікового запису або викрадення даних.  

А в таких країнах, наприклад, як Німеччина, відсоток трафіку від поганих ботів вже перевищив 67,5%!  

Теорія мертвого інтернету

Ці події дуже добре укладаються в так звану теорію мертвого Інтернету.  А вона стверджує, що дії та вміст в Інтернеті, включаючи облікові записи в соціальних мережах, переважно створюються та автоматизуються агентами штучного інтелекту.

Ці агенти можуть швидко створювати дописи разом зі згенерованими штучним інтелектом зображеннями, призначеними для залучення кліків, лайків та коментарів на таких платформах, як Facebook, Instagram і TikTok. 

У міру того, як у цих керованих ШІ облікових записів зростає кількість підписників (багато фальшивих, деякі справжні), вони легітимізують обліковий запис для реальних користувачів. Це означає, що там створюється ціла армія облікових записів. Облікові записи з великою кількістю підписників, які можуть бути розгорнуті людьми, хто має щось на своїй меті.

Це надзвичайно важливо, оскільки соціальні медіа зараз є основним джерелом новин та інформації для багатьох користувачів у всьому світі.

«Я б сказав, що проблема ширша — завдяки генеративному ШІ стало простіше створювати контент, зокрема, і контент низької якості. Фактично у кожного є можливість швидко створювати контент у промислових масштабах, без будь-яких бар'єрів. І контент низької якості в цьому контексті — це ще не найбільша проблема. Наприклад, пропаганда, маніпуляції, фейки, діпфейки у промислових масштабах — ось що створює більшу загрозу», — підкреслює експерт з ШІ Олексій Мінаков у коментарі для dev.ua.

Український трек

Фейковий контент у соцмережах вже добре знайомий і українській аудиторії.

Наприклад, ось окремий випадок, який вже розбирала наша журналістська команда dev.ua. 

Бабуся похилого віку разом з онуком проникливо дивляться в камеру. Перед ними на столі лежить порізаний пиріг. Поверх такої картинки підпис: «У нас немає грошей на торт, моя бабуся спекла тістечка. Бабуся буде дуже рада її привітати».

Ні, це не нове шоу на СТБ «Бабусю, ми ріжемо пиріг», це лише одна з крінжових, на перший погляд, картинок у Facebook, які заполонили зараз мережу. Виглядає смішно? Але якщо приглянутися, то лише у конкретно цієї світлини близько 700 поширень, трохи менш як 2000 коментарів і понад 30 000 лайків. 

Її взято з Facebook-сторінки «Чистота и нежность». В ній російськомовні пости чергуються з україномовними. В більшості з них користувачів просять щось оцінити: торт, ванну, випічку, стілець тощо. 

«Коли вже людям мозок почнуть видавати?», — коментує дописи на сторінці Сергій Місюра, в якого зазначено місце роботи сайт АрміяInform. Але такої тверезо-критичної оцінки в коментарях мало. Зазвичай користувачі роблять так, як їх просять в дописах, вітаючи незнайомих (і не зрозуміло чи реальних) людей.

«Таких попаяних груп в Facebook дуже і дуже багато. Коли нормальна людина туди заходить, то перше враження приблизно таке: «Це не може бути правдою». Профілі виглядають як боти, але з іншого боку під різними ніками можуть бути живі люди, — каже в коментарі dev.ua Олександр Краковецький, CTO «ДонорUA» та CEO DevRain.

«Цими Fb-сторінками та групами керує не ШІ, а людина за допомогою ШІ. Багато користувачів не відрізняють справжні фотографії від згенерованих ШІ-зображень, тому щиро коментують, лайкають або поширюють пости із згенерованими зображеннями», — додає експерт з застосування технологій ШІ  Олексій Мінаков.

Ціль, як правило, одна — зібрати якомога більшу вразливу аудиторію через емоційні зображення, щоб потім доносити цій великій аудиторії потрібні меседжі.

Що робити

Соціальні мережі вже почали якимось чином принаймі намагатися позбутися армій ботів.

«Розв’язання цієї глобальної проблеми (легкого і швидкого створення низькоякісного або шкідливого контенту в промислових масштабах) залежить від координації зусиль технологічних компаній, держав, громадських організацій, громадян та інших стейкхолдерів», — розповідає Мінаков. 

За його словами, це потребує певного регулювання. Інакше вплив майданчиків-платформ із таким контентом стане ще більш шкідливим. 

«Але технології розвиваються швидше за врегулювання, тому ці врегулювання поки відстають і маємо проблему, яка не вирішується і з якою поки не вдається дієво боротися», — каже Мінаков. 

Крім того, ця проблема має складнощі в технічній реалізації.

Наприклад, компанія Meta почала з того, що нещодавно запровадила значок ШІ. Щоправда, він ще не такий поширений. До того ж Meta почала помилятися й іноді маркувати людський контент як машинний. Скоріш за все, творці фейків будуть намагатися обійти нові правила.

Ще один варіант — заблокувати ботів грошима. 

«На жаль, невелика плата за доступ нового користувача до запису є єдиним способом приборкати невпинну атаку ботів», — пропонував власник X Ілон Маск. За його словами, сучасний штучний інтелект (і ферми тролів) можуть з легкістю пройти тест «ви бот».

Але, ймовірно простіший варіант запропонував засновник української соцмережі Pleex Єгор Комаров. Щоб відокремити людей від ботів в соцмережах — треба всіх верифікувати. Подібно до того, як у мобільному банку не може бути фейкових клієнтів, так і у соціальних платформах  — користувачам треба проходити певну перевірку. І це не капча чи щось подібне. Перевірка повинна бути якісна (і проста одночасно). 

«Наша мета — створити безпечний український простір для спільнот без зовнішнього впливу і без ботів. Для цього ми у Pleex для створення акаунта запровадили авторизацію через Дія.Підпис. З цим кроком користувач підтверджує особу — а ми можемо бути впевнені, що це реальна людина», — підкреслює він.

«Я вважаю, що для користувача це зручний та простий варіант ідентифікації, адже не потрібно надавати нам жодних документів. Тільки підтвердити авторизацію через Дія.Підпис», — підкреслює засновник соцмережі.

Для платформи цей варіант також безпечний: адже вона не отримує, не зберігає і не обробляє жодних документів, на відміну від більшості інших сервісів, де від користувача вимагають надсилати фотографії паспорта та дані про місце проживання.

Звісно, авторизацію можна було б організувати й через банківські додатки, як це зроблено, наприклад, в новому застосунку для військовослужбовців «Резерв+»: заходиш у застосунок, обираєш банк, який тебе обслуговує й отримаєш доступ. Просто.

Але Комаров застерігає, що для таких сервісів в інтернеті, як соцмережі, авторизація через банк не найкраще рішення.

Я пам’ятаю кризу 2014 року, коли багато банків просто збанкрутували й закрилися. Сьогодні ми живемо не просто в кризі, ми живемо у воєнній кризі, що несе ще більші ризики для фінансових установ. Крім того, банківські рахунки можуть часто блокуватись, люди можуть змінювати банки — все це є нестабільним рішенням», — підкреслює він.

Лідером за ефективністю авторизації залишається «Google кнопка». «Це дійсно одне з найкращих рішень для ІТ-продуктів, але це не розв’язує питання верифікації», — каже Комаров.

Тому це відкрите вікно для ботів, ботоферм, зловмисників, зовнішньої пропаганди. Одне діло, коли у вас односторонній сервіс, і зовсім інше, коли у вас платформа, де люди взаємодіють один з одним, як-то соцмережа.

«Я думаю, якби це був сайт знайомств, всі б хотіли бути впевненими в тому, що коли в анкеті у дівчини написано Наталія, 29 років, це дійсно Наталія, 29 років, а не Ігор, 68 років. У цьому і є сенс верифікації — довіра», — каже він.

Зрештою, Pleex — одна з небагатьох соціальних мереж не тільки в Україні, а і в світі, яка ставить перед собою завдання побудувати середовище, де люди розуміють, з ким вони спілкуються, хто публікує матеріали, хто ким є насправді. Щоб це були не вигадані персони, а реальні, верифіковані.

«Можливо, сьогодні ця цінність не є очевидною для багатьох, але ми дивимося далеко вперед», — підкреслює засновник проєкту.

По-перше, теорія мертвого інтернету стає вже не такою собі теорією. Штучний інтелект стане ще розумнішим. Він буде імітувати бурхливу діяльність, лайкати, коментувати, створювати масово контент на задану тему, з кожним роком стаючи все розумнішим.

«Це все „відмінні“ інструменти для популяризації певних тем, інформаційної маніпуляції, штучно створених трендів та інших економічних і політичних симуляцій. По суті, це вже відбувається, але перейде на зовсім новий рівень», — прогнозує Єгор Комаров.

Крім цього, ми повинні пам’ятати, що Україна знаходиться у війні, ця війна також ведеться і в інформаційному просторі. І навіть якщо завтра буде мир, протистояння в найближчі десятиліття нікуди не дінеться.  Тому наша «внутрішня кухня», чим ми займаємось, що обговорюємо, які плани будуємо, з якими проблемами стикаємось  — повинна залишатись нашою «внутрішньою кухнею».

«І я переконаний у тому, що авторизація  через Дія.Підпис для доступу до сервісу чи окремих функцій дозволить створити безпечний простір і відсіяти ботів з їх маніпуляціями та інформаційними атаками. Це є необхідністю в сьогоднішніх реаліях. Це є і питанням національної безпеки», — каже Комаров.

А ще цей сервіс є звичним для українців. Дія.Підпис для авторизації використовують безліч ресурсів: як державних установ, так і бізнесу. Зокрема, для підтвердження особи сервіс впровадили й українська залізниця та маркетплейс з продажу авто.

Епілог 

Головне, що не треба забувати: інформація — це зброя. І фейкова інформація — не виключення. А це означає, що вона буде використовуватися на війні, проти нас.

Зрештою — що вже зараз і відбувається. Бачили в соцмережах фото військових з підписами: «шкода, що це зображення збере менше, ніж якийсь голий співак» або «цей воїн заслуговує на ваші лайки»?

Це вже певні дії нашого супротивника. Він вже розгортає пастки. А що ми будемо робити далі, щоб уберегтися від цього — залежить він нас. 

Так, треба бути обережними. Але, зрозуміло, що обережними будуть не всі. Треба створювати нове безпечне середовище в інтернеті. І це колективна задача.

У світі, де анонімність іноді приносить більше шкоди, ніж користі, Pleex може стати новим корисним і безпечним простором.

Читайте головні IT-новини країни в нашому Telegram

По темi

Читайте головні IT-новини країни в нашому Telegram