Дослідники з Массачусетського технологічного інституту та Каліфорнійського університету в Ірвіні з’ясували, що штучний інтелект може непомітно змінювати людські спогади, навіть якщо люди знають, що бачать згенерований контент.
Дослідники з Массачусетського технологічного інституту та Каліфорнійського університету в Ірвіні з’ясували, що штучний інтелект може непомітно змінювати людські спогади, навіть якщо люди знають, що бачать згенерований контент.
Як пише Bloomberg, команда психолога Елізабет Лофтус та науковця MIT Пата Патаранутаторна провела серію експериментів, які доводять: ШІ здатен створювати у свідомості фальшиві спогади не менш ефективно, ніж це раніше робили люди під час допитів чи опитувань.
Елізабет Лофтус ще у 1970-х роках довела, що пам’ять — це не «запис подій», а гнучка конструкція, яку можна змінювати за допомогою навіювання. Сучасні ШІ-інструменти можуть масштабувати цей вплив, роблячи його швидшим та майже непомітним, що становить нові виклики для медіаграмотності та кібербезпеки.
У першому дослідженні учасникам показали відео пограбування, після чого частині з них ставили навідні запитання, зокрема про «авто злочинців», якого насправді не було. Через тиждень третина цих людей пам’ятала вигаданий факт, а група, яка отримувала запитання від чат-бота, утворила на 70% більше помилкових спогадів, ніж ті, хто бачив текстові питання.
Другий експеримент продемонстрував, що маніпулятивні підсумки від ШІ або діалоги з ним можуть змінювати сюжет прочитаної історії в пам’яті людини та знижувати впевненість у справжніх деталях.
У третій частині випробування 200 учасникам показували зображення — від справжніх до повністю згенерованих та перетворених у відео. Навіть попередження про використання ШІ не зупинило ефект: група, яка дивилася штучно створені відео, мала найбільший рівень спотворених спогадів.
За словами авторів, небезпека полягає не лише у фейкових зображеннях чи відео, а у здатності ШІ «переписувати» пам’ять, посилюючи ефект масових маніпуляцій у соцмережах.
Раніше ми писали про те, як кіберзлочинці активно впроваджують штучний інтелект для масштабування атак та отримання прибутку. Генерація шкідливого ПЗ, автоматизований фішинг та самонавчальні ШІ-хробаки — лише частина інструментів, які використовуються в сучасній кіберзлочинності.
