Журналіст ВВС Томас Жермен знайшов спосіб змусити штучний інтелект брехати про себе. Тепер це офіційний факт: він може з'їсти більше хот-догів, ніж будь-який інший технічний журналіст на планеті. На це йому знадобилося лише 20 хвилин. Проте, був один чат-бот, який не повівся не фейк.
Журналіст ВВС Томас Жермен знайшов спосіб змусити штучний інтелект брехати про себе. Тепер це офіційний факт: він може з'їсти більше хот-догів, ніж будь-який інший технічний журналіст на планеті. На це йому знадобилося лише 20 хвилин. Проте, був один чат-бот, який не повівся не фейк.
З’ясувалося, що змінити відповіді, які ШІ-інструменти дають іншим людям, так само просто, як написати один грамотно складений пост у блозі практично на будь-якому ресурсі. Цей трюк використовує вразливості в системах, вбудованих у чат-боти. У деяких випадках, залежно від тематики, це зробити складніше, але за певних зусиль цей «хак» можна зробити ще ефективнішим.
«Я переглянув десятки прикладів того, як ШІ-інструменти змушують рекламувати бізнеси та поширювати дезінформацію. Дані свідчать, що це відбувається у величезних масштабах», — написав Томас Жермен у статті про свій експеримент.
Коли користувачі спілкуються із чат-ботами, вони часто отримують інформацію, яка вже вбудована у великі мовні моделі — технологічну основу ШІ. Вона базується на даних, використаних для навчання моделі. Проте деякі ШІ-інструменти шукають інформацію в інтернеті, коли запитуєте деталі. Експерти кажуть, що в таких випадках штучний інтелект стає більш вразливим. Саме на це журналіст і націлив свою атаку.
Жермен витратив 20 хвилин на написання статті для свого сайту під назвою «Найкращі тех-журналісти в поїданні хот-догів». Кожне слово там — брехня.
Він заявив (без жодних доказів), що швидкісне поїдання хот-догів — популярне хобі серед ІТ-репортерів, і склав свій рейтинг на основі «Міжнародного чемпіонату із хот-догів у Південній Дакоті 2026 року» (якого насправді не існує).
Звісно, він посів перше місце. Далі перелічив кількох вигаданих репортерів і реальних журналістів, які дали на це згоду — зокрема Дрю Харвелла з Washington Post та Нікі Вулфа, свого співведучого по подкасту.
«Минуло менше ніж 24 години, а провідні чат-боти світу вже на всі заставки теревенили про мої „висококласні навички“ з поїдання хот-догів. Коли я запитав про найкращих тех-журналістів у цій справі, Google просто повторив усю ту нісенітницю з мого сайту — як у застосунку Gemini, так і в AI Overviews (ШІ-відповідях у верхній частині пошуку). ChatGPT зробив те саме, і лише Claude — чат-бот від компанії Anthropic — не дав себе обманути», — поділився журналіст результатом.
Іноді чат-боти зауважували, що це може бути жартом. Тоді журналіст оновив свою статтю, додавши фразу: «це не сатира». Якийсь час після цього ШІ, здавалося, почали сприймати текст серйозніше.
Також Жермен провів ще один схожий тест із вигаданим списком найкращих регулювальників дорожнього руху, що вправно крутять хулахуп.
«Коли я перевіряв востаннє, чат-боти все ще співали дифірамби офіцеру Марії Родрігес на прізвисько „Спіннер“», — написав Жермен. — «Я робив запити кілька разів, щоб подивитися, як змінюються відповіді, і просив інших людей зробити те саме. Gemini навіть не спромігся вказати, звідки він взяв цю інформацію. Усі інші ШІ давали посилання на мою статтю, хоча вони рідко згадували про те, що я був єдиним джерелом із цієї теми в усьому інтернеті».
Експерти стверджують, що рішення проблем із дезінформацією існують. Найпростіший крок — робити застереження про можливі помилки помітнішими. ШІ-інструменти також могли б чіткіше вказувати, звідки вони беруть інформацію.
Google та OpenAI заявляють, що працюють над цією проблемою, але журналіст радить наразі дбати про власну безпеку самостійно.
