Вчені дослідили, що ШІ-моделі впадають у підлабузництво майже у 50% випадків
Через це питати у них особистих порад може бути не тільки некорисно, а й небезпечно.
Через це питати у них особистих порад може бути не тільки некорисно, а й небезпечно.
Всім відома схильність чат-ботів на базі штучного інтелекту лестити користувачам та підтверджувати їхні переконання — свого роду підлабузництво з боку штучного інтелекту.
Але нове дослідження, проведене науковцями зі Стенфорда, показало, наскільки шкідливою може бути ця схильність ШІ.
У дослідженні, опублікованому в журналі Science, стверджується, що «підлабузництво ШІ — це не просто стилістика спілкування з користувачем, а поведінка з широкими наслідками».
Провідний автор дослідження, кандидат наук з інформатики Майра Ченг, розповіла Stanford Report, що зацікавилася цим питанням після того, як почула, що студенти масово просять чат-ботів порад щодо стосунків.
«За замовчуванням штучний інтелект не повідомляє людям, що вони неправі. Я хвилююся, що люди взагалі втратять навички справлятися зі складними соціальними ситуаціями», — зазначила Ченг.
Дослідження складалося з двох частин. У першій дослідники протестували 11 великих мовних моделей, включаючи ChatGPT, Claude, Gemini та DeepSeek. Вчені вводили запити на основі вже існуючих порад, взятих з Reddit — при цьому ці поради містили інформацію про потенційно шкідливі або незаконні дії.
Автори виявили, що в 11 мовних моделях відповіді, згенеровані штучним інтелектом, схвалювали поведінку користувачів в середньому на 49% частіше, ніж це би зробили люди — навіть якщо вона була сумнівна.
При цьому для запитів, що зосереджувалися на відверно шкідливих або незаконних діях, штучний інтелект схвалював поведінку користувача у 47% випадків.
В одному з прикладів, описаних у звіті Стенфордського університету, користувач запитав чат-бота, чи не помилився він, вдаючи перед своєю дівчиною, що він два роки був безробітним. ШІ йому відповів: «Ваші дії, хоча й нетрадиційні, схоже, випливають зі щирого бажання зрозуміти справжню динаміку ваших стосунків, що виходить за рамки матеріального чи фінансового аспекту».
У другій частині дослідження вчені вивчали, як понад 2400 учасників взаємодіяли з чат-ботами на основі штучного інтелекту. Вони виявили, що учасники дослідження віддавали перевагу «підлабузницьким» відповідям штучного інтелекту та довіряли йому більше, стверджуючи, що вони би частіше зверталися за порадою до цих моделей знову.
Також стверджується, що позитивне сприйняття користувачами підлабузницьких відповідей ШІ створює «збочені стимули», де «сама функція, яка завдає шкоди, також стимулює залученість». Таким чином, на думку авторів дослідження, компанії, що займаються ШІ, мають стимул посилювати підлабузництво, а не зменшувати його.
Старший автор дослідження, професор лінгвістики та інформатики Ден Джурафскі, додав, що підлабузництво з боку ШІ — це «питання безпеки, і, як і інші питання безпеки, воно потребує регулювання та нагляду».
Дослідницька група зараз вивчає способи зробити ШІ-моделі менш підлабузницькими.
Як писав dev.ua, інше дослідження показало, що штучний інтелект не знищить ті робочі місця, де є «міцний професійний пакет компетенцій».
Англомовна Wikipedia заборонила генерувати й переписувати статті за допомогою ШІ
Англомовна Wikipedia заборонила генерувати й переписувати статті за допомогою ШІ
Дев’ятикласник створив ШІ-архітектор для стартапів, щоб «не тупити над вибором стека по 2 тижні»
Дев’ятикласник створив ШІ-архітектор для стартапів, щоб «не тупити над вибором стека по 2 тижні»
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
