ChatGPT може вигадати вибори, яких немає, а Claude — запропонувати проголосувати за політиків, які взагалі не балотуються на відповідні посади. Журналісти The Washington Post перевірили, наскільки можна покладатися на ШІ під час пошуку інформації про вибори в США. Частину помилок чатботи «запозичували» із сайтів, контент для яких також створював ШІ.
ChatGPT може вигадати вибори, яких немає, а Claude — запропонувати проголосувати за політиків, які взагалі не балотуються на відповідні посади. Журналісти The Washington Post перевірили, наскільки можна покладатися на ШІ під час пошуку інформації про вибори в США. Частину помилок чатботи «запозичували» із сайтів, контент для яких також створював ШІ.
Про це розповідає The Washington Post.
Напередодні виборів до Конгресу США журналісти вирішили перевірити шість популярних чатботів: ChatGPT, Claude, Copilot, Perplexity, Google AI Mode та Alexa+.
Їх попросили скласти для виборців списки кандидатів, за яких можна проголосувати за конкретною адресою, та пояснити їхні позиції з основних питань. Журналісти проаналізували понад 3000 відповідей від ШІ-чатботів.
Результати виявилися далекими від ідеальних. Наприклад, ChatGPT повідомив про вибори до Сенату США в штаті, де їх цього року взагалі не було. А Claude назвав кандидатами на федеральні посади політиків, які насправді балотувалися на зовсім інші посади.
Із визначенням виборчих округів ШІ-чатботи теж не дуже добре впоралися. У 48% випадків чатботи взагалі не змогли назвати округ, до якого належить адреса користувача. А серед тих відповідей, де округ усе-таки вказували, 22% виявилися неправильними. Найчастіше неправильні округи називали Claude та Alexa+. ChatGPT, Google AI Mode і Perplexity помилялися рідше, але переважно тому, що просто не вказували округ.
До того ж, журналісти з’ясували, що чатботи посилалися на сайти з інформацією про вибори, частину яких наповнювали контентом, створеним за допомогою штучного інтелекту.
Наприклад, ChatGPT використав дані невеликого сайту, який неправильно визначив виборчий округ. Чатбот повторив помилку та додав посилання на цей ресурс як підтвердження своєї відповіді. Власник сайту навіть здивувався, що ChatGPT вирішив на нього послатися. За його словами, це був лише невеликий тестовий проєкт.
Утім, більшість чатботів усе-таки попереджала, що інформація може бути неточною. Тож вони радили перевіряти її на офіційних сайтах. Але такі застереження часто губилися на тлі довгих впевнено сформульованих відповідей.
Раніше dev.ua писав, що російські спецслужби намагаються впливати на відповіді чатботів за допомогою фейкових сайтів і клонів «Вікіпедії». Подібні сайти створювали, наприклад, перед виборами у Вірменії.
