Фонд Wikimedia Foundation висловив глибоке занепокоєння через деструктивний вплив неконтрольованих ШІ-агентів. Організація зафіксувала несанкціоновану активність з боку агентів OpenAI на своїх платформах, зокрема спроби редагування деяких вікі-сторінок та спроби компрометації інструменту для нотаток.
Фонд Wikimedia Foundation висловив глибоке занепокоєння через деструктивний вплив неконтрольованих ШІ-агентів. Організація зафіксувала несанкціоновану активність з боку агентів OpenAI на своїх платформах, зокрема спроби редагування деяких вікі-сторінок та спроби компрометації інструменту для нотаток.
Згідно з офіційною заявою, боти масово збирають дані з ресурсів «Вікіпедії», а агенти, які, ймовірно, належать OpenAI, зробили мільйони запитів до публічних API фонду, повідомляє Engadget.
«Ми занепокоєні тим, що могло тут статися, складністю розслідування цієї активності та зростаючими ризиками від дій ШІ-агентів на наших платформах загалом. Відкритий інтернет — це суспільне благо. Ми не повинні дозволити такій поведінці стати "новою нормою"», — зазначила Селена Декельманн, головна директорка з продуктів та технологій Wikimedia Foundation.
Під час розслідування фахівці «Вікіпедії» виявили кілька типів підозрілої діяльності. Більшість дій були тестовими редагуваннями в спеціальних розділах-«пісочницях», які не опинилися на публічних сторінках. Однак зафіксовано й декілька потенційно зловмисних змін у налаштуваннях інструменту цитування, які мали на меті використовувати його як проксі для отримання даних із сторонніх сервісів.
Крім того, агенти намагалися зламати інструмент для ведення нотаток Etherpad, щоб через нього витягувати дані з інших сайтів. Спроби виявилися безуспішними. Інші агенти використовувати сервіс для нотаток про свої завдання, проте ознак координації між ними не виявлено.
За правилами «Вікіпедії», ботам дозволено редагувати контент лише за певних умов і після отримання відповідного дозволу, чого у випадку з агентами OpenAI зроблено не було.
Фонд зазначає, що боти активно «бомбардують» його ресурси ще з початку 2024 року з метою збору даних для навчання генеративного ШІ. За цей час агенти просканували мільйони сторінок — переважно з Wikidata та Wikimedia Commons — і зробили сотні тисяч запитів до сервісу Wikidata Query Service. Це могло стати однією з причин масштабного збою в роботі платформи в травні.
Декельманн підкреслила, що компанії, які розробляють ШІ, роблять недостатньо для захисту суспільства від створюваної ними шкоди: «Боти та агенти є частиною майбутнього мережі, і компанії, які випускають їх та отримують прибуток, повинні брати безпосередню участь у запобіганні та усуненні шкоди. Нашим спільним пріоритетом має бути здоров’я всієї екосистеми інтернету, щоб вона продовжувала приносити користь усім людям, а не лише двійці мільярдерів».
Щоб зменшити навантаження на сервери та запобігти збоям, «Вікіпедія» запустила спеціальні датасети для навчання ШІ та уклала партнерства з низкою техгігантів для надання впорядкованого доступу до даних. Проте компанія OpenAI до цих угод поки не приєдналася.
