💳 Термінова новина! Trustee Plus — найкраще рішення для розрахунку криптою 👉
Марія БровінськаТаке життя
1 травня 2023, 14:38
2023-05-01
Привіт, майбутнє. Дослідники виявили 49 сайтів, новини для яких вигадує ШІ. Як працюють контент-ферми та що кажуть в OpenAI та Google
Рейтингова група новин NewsGuard виявила, що в інтернеті поширюються десятки новинних вебсайтів, створених чат-ботами зі штучним інтелектом, пише Bloomberg.
Рейтингова група новин NewsGuard виявила, що в інтернеті поширюються десятки новинних вебсайтів, створених чат-ботами зі штучним інтелектом, пише Bloomberg.
У новому звіті задокументовано 49 нових вебсайтів, заповнених інструментами ШІ, такими як ChatGPT, які видають себе за агентства новин.
Деякі виглядають як сайти екстрених новин із такими загальними назвами, як News Live 79 і Daily Business Post, тоді як інші діляться порадами щодо способу життя, новинами про знаменитостей або публікують спонсорований вміст. Але ніхто не розголошує, що вони заповнюються за допомогою чат-ботів AI, таких як ChatGPT від OpenAI Inc. і, можливо, Google Bard від Alphabet Inc., які можуть генерувати детальний текст на основі простих підказок користувача. Багато вебсайтів почали публікуватися цього року, оскільки інструменти ШІ почали широко використовуватися громадськістю.
У кількох випадках NewsGuard задокументував, як чат-боти генерували неправду для опублікованих матеріалів. Лише у квітні вебсайт під назвою CelebritiesDeaths.com опублікував статтю під назвою «Байден помер. Гарріс, що виконує обов’язки президента, звернення о 9 ранку».
А сайт TNewsNetwork опублікував неперевірену історію про загибель тисяч солдатів у російсько-українській війні на основі відео з YouTube.
Більшість сайтів, схоже, є контент-фермами — низькоякісними вебсайтами, керованими анонімними джерелами, які створюють дописи для реклами. Новини на цих ресурсах публікуються кількома мовами, включаючи англійську, португальську, тагальську та тайську, повідомляє NewsGuard у своєму звіті.
Декілька сайтів отримали певний прибуток, рекламуючи «гостьові публікації» — за допомогою яких люди можуть замовляти згадки про свій бізнес на вебсайтах за певну плату, щоб покращити рейтинг у результатах пошуку. Інші, схоже, намагалися створити аудиторію в соціальних мережах, таких як ScoopEarth.com, який публікує біографії знаменитостей і чия відповідна сторінка у Facebook має 124 000 підписників.
Як шукали контент-ферми
Щоб знайти ці сайти, дослідники NewsGuard використовували пошук за ключовими словами за фразами, які зазвичай створюють чат-боти ШІ, наприклад «як велика мовна модель ШІ» та «мій кінцевий термін у вересні 2021 року». Дослідники провели пошук за допомогою таких інструментів, як платформа аналізу соціальних мереж CrowdTangle, що належить Facebook, і платформа моніторингу медіа Meltwater. Вони також оцінювали статті за допомогою класифікатора тексту AI GPTZero, який визначає, чи ймовірно, що певні фрагменти написані повністю AI.
Кожен із сайтів, проаналізованих NewsGuard, опублікував принаймні одну статтю з повідомленням про помилку, яке зазвичай зустрічається в тексті, згенерованому штучним інтелектом, і кілька представлених підроблених профілів авторів.
Одне видання, CountyLocalNews.com, яке висвітлює злочини та поточні події, опублікувало статтю в березні, використовуючи дані чат-бота штучного інтелекту, який, здавалося, спонукав написати про фальшиву змову про масову смерть людей через вакцини. «Новини смерті», — говорилося в ньому. «На жаль, я не можу виконати це замовлення, оскільки це суперечить етичним і моральним принципам. Вакцинальний геноцид — це теорія змови, яка не ґрунтується на наукових доказах і може завдати шкоди здоров’ю населення».
Інші вебсайти використовували чат-боти штучного інтелекту для реміксів опублікованих історій з інших джерел, ледве уникаючи плагіату, додаючи посилання на джерело внизу частин. А видання під назвою Biz Breaking News використовувало інструменти для узагальнення статей із The Financial Times і Fortune, додаючи кожну статтю до «трьох ключових моментів», згенерованих за допомогою інструментів ШІ.
Монетизація контент-ферм
Більша частина сайтів заробляють на програмованій рекламі, де місце для реклами на сайтах купується та продається автоматично за допомогою алгоритмів.
Хоча багато сайтів, здавалося, не залучали відвідувачів і лише деякі з них бачили значну участь у соціальних мережах, були й інші ознаки того, що вони здатні приносити певні прибутки. Ресурси, ідентифіковані NewsGuard, використовували програмні рекламні послуги таких компаній, як MGID і Criteo, щоб отримати дохід, згідно з оглядом Bloomberg дослідження групи. MGID і Criteo не відразу відповіли на запити про коментарі.
Два десятки сайтів були монетизовані за допомогою рекламної технології Google, у політиці якої зазначено, що компанія забороняє показ реклами Google на сторінках із «малоцінним вмістом» і на сторінках із «тиражованим вмістом», незалежно від того, як він був згенерований. (Google видалив рекламу з деяких вебсайтів лише після того, як Bloomberg зв’язався з компанією.)
Гіансіракуза, професор Bentley, сказав, що викликає занепокоєння те, наскільки дешевою стала ця схема, без людських збитків для винних у шахрайстві. «Раніше це була низькооплачувана схема. Але принаймні це було не безплатно», — сказав він. «Зараз можна купити лотерейний білет для цієї гри».
Що кажуть розробники ШІ-ботів
Співголовний виконавчий директор NewsGuard Гордон Кровіц сказав, що звіт групи показує, що такі компанії, як OpenAI та Google, повинні подбати про те, щоб навчити свої моделі не вигадувати новини. «Використання моделей штучного інтелекту, відомих тим, що вигадують факти, щоб створювати те, що лише виглядає як новинні вебсайти, є шахрайством, яке маскується під журналістику», — сказав Кровіц, колишній видавець Wall Street Journal.
OpenAI не відразу відповіла на запит про коментарі, але раніше заявляла, що використовує поєднання рецензентів і автоматизованих систем для виявлення та запобігання зловживанням своєю моделлю, включаючи видачу попереджень або, у серйозних випадках, заборону користувачів.
У відповідь на запитання Bloomberg про те, чи створені штучним інтелектом вебсайти порушували їх рекламну політику, речник Google Майкл Акіман сказав, що компанія не дозволяє показувати рекламу разом зі шкідливим або спам-контентом або контентом, скопійованим з інших сайтів.
«Застосовуючи цю політику, ми зосереджуємося на якості вмісту, а не на тому, як він був створений, і ми блокуємо або припиняємо показ реклами, якщо виявляємо порушення», — сказав Асіман у заяві.
Google додає, що після звернення Bloomberg компанія видалила рекламу з деяких окремих сторінок сайтів, а у випадках, коли компанія виявила повсюдні порушення, вона повністю видалила рекламу з вебсайтів.
У Google зазначають, що наявність контенту, створеного штучним інтелектом, за своєю суттю не є порушенням її рекламної політики, але вона оцінює контент відповідно до наявної політики видавців. Крім того, було сказано, що використання автоматизації, включаючи штучний інтелект, для створення контенту з метою маніпулювання рейтингом у результатах пошуку порушує політику компанії щодо спаму. Компанія регулярно відстежує тенденції зловживань у своїй рекламній екосистемі та відповідно коригує свою політику та системи примусу.
Читайте головні IT-новини країни в нашому Telegram
УЧАСТЬ В АЗАРТНИХ ІГРАХ МОЖЕ ВИКЛИКАТИ ІГРОВУ ЗАЛЕЖНІСТЬ. ДОТРИМУЙТЕСЯ ПРАВИЛ (ПРИНЦИПІВ) ВІДПОВІДАЛЬНОЇ ГРИ.
Ліцензія видана ТОВ "СЛОТС Ю.ЕЙ." на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 15.09.23 (рішення КРАІЛ №245 від 31.08.2023); ТОВ "СЛОТС Ю.ЕЙ." – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 26.04.2021 (рішення КРАІЛ №150 від 12.04.2021); ТОВ «СПЕЙСИКС» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 08.02.2021 (рішення КРАІЛ №34 від 02.02.2021); ТОВ «ГЕЙМДЕВ» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 16.02.2021 (рішення № 47 від 10.02.2021).
В Україні нарешті планують декриміналізувати порнографію. Розповідаємо, як з'явилася українська еротика і чому потрібно легалізувати українську порноіндустрію
Депутати планують декриміналізувати порнографію в Україні і вже підготували для цього відповідний законопроєкт.
Цьому передувала петиція про легалізацію еротики та порно в Україні у липні 2022 року. Вона швидко зібрала необхідні 25 000 підписів. Тоді ж редакція dev.ua вирішила підготувати коротку історію порно в Україні. А також дізнатися, чи можна на порно збудувати багатомільярдну індустрію, якщо його легалізувати.
(текст від 8 липня 2022 року).
