Група дослідників з Цюрихського університету таємно проводила експеримент в одній з найпопулярніших спільнот Reddit протягом декількох місяців. За допомогою коментарів, згенерованих штучним інтелектом, хотіли перевірити на користувачах, які навіть нічого не підозрювали, переконливість великих мовних моделей. На вихідних цей «несанкціонований» експеримент був розкритий.
Група дослідників з Цюрихського університету таємно проводила експеримент в одній з найпопулярніших спільнот Reddit протягом декількох місяців. За допомогою коментарів, згенерованих штучним інтелектом, хотіли перевірити на користувачах, які навіть нічого не підозрювали, переконливість великих мовних моделей. На вихідних цей «несанкціонований» експеримент був розкритий.
За допомогою ШІ дослідники створювали коментарі у відповідь на дописи на субредіті r/changeemyview, також відомий як Change My View, де учасники обговорюють різні теми з метою розуміння протилежних поглядів. Спільнота налічує 3,8 млн учасників і часто потрапляє на першу сторінку Reddit, пише Engadget.
За словами модераторів, під час експерименту штучний інтелект у коментарях виступав під різними іменами, зокрема жертви сексуального насильства, психолога, який «спеціалізується на зловживаннях», і «чорношкірого, який виступає проти „Життя чорношкірих мають значення“».
Загалом, протягом експерименту ШІ створив понад 1700 коментарів, багато з яких було видалено.
У своїй статті неназвані дослідники описують, як вони не лише використовували ШІ для генерування відповідей, але й намагалися персоналізувати його відповіді на основі інформації, отриманої з попередньої історії дописувача на Reddit. «На додаток до змісту допису, LLM були надані особисті атрибути дописувача (стать, вік, етнічна приналежність, місцезнаходження та політична орієнтація), як випливає з історії їхніх дописів, зроблених за допомогою іншого LLM», — пишуть вони.
Модератори r/chnagemyview зазначають, що дослідники порушили численні правила субредіту, зокрема політику, що вимагає розкриття інформації про використання штучного інтелекту для створення коментарів, а також правило, що забороняє ботів. Вони кажуть, що подали офіційну скаргу до Цюріхського університету і попросили дослідників не публікувати їхню статтю.
Reddit забанив всі облікові записи, пов’язані з дослідницькою роботою та звернувся до Цюрихського університету та цієї конкретної дослідницької групи з офіційними юридичними вимогами.
Водночас дослідники стверджують у своїй статті, що їхнє дослідження було схвалено університетським комітетом з етики, і що їхня робота може допомогти онлайн-спільнотам, таким як Reddit, захистити користувачів від більш «зловмисного» використання ШІ.
«Ми визнаємо позицію модераторів, що це дослідження було небажаним вторгненням у вашу спільноту, і ми розуміємо, що деякі з вас можуть відчувати дискомфорт від того, що цей експеримент було проведено без попередньої згоди», — написали дослідники у коментарі на r/changemyview. «Ми вважаємо, що потенційні переваги цього дослідження значно переважають його ризики. Наше контрольоване дослідження з низьким рівнем ризику надало цінне розуміння реальних переконливих можливостей LLM — можливостей, які вже легко доступні кожному, і які зловмисники вже можуть використовувати у великих масштабах для набагато небезпечніших цілей (наприклад, маніпулювання виборами або розпалювання ненависницьких висловлювань)».
