Компанія OpenAI оголосила про впровадження невидимих текстових водяних знаків для відповідних результатів ChatGPT та Codex. Нова технологія під назвою textGrain має допомогти ідентифікувати контент, створений користувачами з Європейського Союзу за допомогою штучного інтелекту.
Компанія OpenAI оголосила про впровадження невидимих текстових водяних знаків для відповідних результатів ChatGPT та Codex. Нова технологія під назвою textGrain має допомогти ідентифікувати контент, створений користувачами з Європейського Союзу за допомогою штучного інтелекту.
Про це йдеться в блозі OpenAI. Рішення ухвалено у відповідь на вимоги Закону ЄС про штучний інтелект (EU AI Act), який зобов’язує постачальників генеративних технологій забезпечувати можливість машинозчитуваного виявлення згенерованого тексту.
Нова система textGrain працює шляхом додавання невидимого статистичного сигналу під час вибору слів моделлю. Для перевірки наявності цього сигналу компанія створила спеціальний детектор. На першому етапі доступ до нього отримають лише затверджені дослідники та експертні організації, а згодом технологію планується випустити з відкритим вихідним кодом.
Упродовж найближчих тижнів водяні знаки автоматично додаватимуться до відповідей ChatGPT та Codex для користувачів у Європейському Союзі. Для розробників, які використовують API OpenAI по всьому світу, функція буде доступна за бажанням — її можна буде увімкнути вручну.
В OpenAI переконують, що впровадження водяних знаків не впливає на якість згенерованих відповідей та продуктивність моделей, зокрема Astra. Водночас у компанії зазначають про наявні технічні обмеження:
Короткі та вузькоспеціалізовані тексти (наприклад, з математики) виявляти значно складніше через обмежений вибір синонімів.
Ручне редагування суттєво послаблює знак: заміна 25% слів на синоніми знижує рівень виявлення з 92% до 17%.
«Текстовий водяний знак не вимірює внесок людини, не встановлює право власності, не ідентифікує особу користувача та не підтверджує достовірність інформації», — наголошують у компанії, закликаючи розглядати технологію лише як один із додаткових інструментів верифікації.
Раніше OpenAI вже впровадила маркування для мультимедійного контенту. Компанія використовує відкритий стандарт C2PA та технологію SynthID для зображень і аудіо, а також надає спеціальні інструменти перевірки файлів на вебсайті та через Content Provenance API.
