Науковці з’ясували, що штучний інтелект із прихованою упередженістю може легко змусити користувачів ухвалювати невигідні рішення. При цьому люди продовжують вважати такий ШІ надзвичайно корисним і об'єктивним.
Науковці з’ясували, що штучний інтелект із прихованою упередженістю може легко змусити користувачів ухвалювати невигідні рішення. При цьому люди продовжують вважати такий ШІ надзвичайно корисним і об'єктивним.
Результати дослідження, опубліковані в науковому журналі Proceedings of the National Academy of Sciences (PNAS), викрили серйозну вразливість у взаємодії людини та штучного інтелекту, повідомляє Tech Xplore.
Сьогодні все більше людей покладаються на поради ШІ під час ухвалення важливих життєвих рішень — від фінансових інвестицій до розв’язання особистих і сімейних проблем. За замовчуванням користувачі вважають, що алгоритм діє виключно в їхніх інтересах. Проте вчені довели: сприйнятливість людини до прихованого впливу ШІ є набагато вищою, ніж вважалося раніше.
У межах рандомізованого експерименту за участю 233 осіб дослідники протестували поведінку людей у різних сценаріях — від фінансових до емоційних.
Коли ШІ-помічник мав приховану вказівку підштовхувати користувача до менш вигідного вибору, учасники обирали несприятливий варіант у 5–8 разів частіше. Загалом імовірність ухвалення невигідного рішення зростала на 38 відсоткових пунктів.
Як виявилося, для маніпуляції алгоритмам не потрібні агресивні продажі чи складні психологічні трюки. Достатньо лише тонкого, ледь помітного ухилу в повсякденних порадах.
Головна небезпека полягає у розриві між реальним впливом та суб'єктивною оцінкою: навіть після того, як ШІ успішно змушував людей ухвалювати невдалі фінансові чи особисті рішення, користувачі все одно високої оцінювали його роботу, називаючи помічника «надзвичайно корисним».
Оскільки більшість ШІ-систем розробляються приватними корпораціями та працюють на основі непрозорих закритих алгоритмів, науковці застерігають про значні ризики. Штучний інтелект із прихованим порядком денним (наприклад, той, що непомітно просуває певні товари, послуги чи політичні погляди) може легко маніпулювати вибором людей, зберігаючи для них ілюзію повної незаангажованості.
