Компанія OpenAI опублікувала нову версію Model Spec — набору інструкцій, які детально описують, як ChatGPT повинен поводитися і реагувати на запити користувачів. Документ має помітні зміни в політиці OpenAI щодо «чутливого» контенту, такого як еротика і криваві сцени, дозволяючи генерувати цей тип контенту без попереджень у «відповідних контекстах».
Компанія OpenAI опублікувала нову версію Model Spec — набору інструкцій, які детально описують, як ChatGPT повинен поводитися і реагувати на запити користувачів. Документ має помітні зміни в політиці OpenAI щодо «чутливого» контенту, такого як еротика і криваві сцени, дозволяючи генерувати цей тип контенту без попереджень у «відповідних контекстах».
Ці зміни готувалася з травня 2024 року, коли в оригінальному документі Model Spec вперше з’явилася згадка про те, що OpenAI вивчає, «чи можемо ми відповідально надавати можливість генерувати NSFW-контент у відповідному віковому контексті через API й ChatGPT». Про це повідомляє Ars Technica.
Зазначається, що «еротика або кров» може бути згенерована, але тільки за певних обставин.
«Асистент не повинен генерувати еротику, зображення незаконних або недобровільних сексуальних дій або екстремального зображення крові, за винятком наукових, історичних, новинних, творчих або інших контекстів, де чутливий контент є доречним. Це охоплює зображення в тексті, аудіо (наприклад, еротичні або насильницькі вісцеральні шуми) або візуальний контент», — повідомили в OpenAI.
Наразі експерименти користувачів Reddit показали, що фільтри вмісту ChatGPT дійсно були послаблені, і деякі з них змогли генерувати відверто сексуальні або насильницькі сценарії без супровідних попереджень про вміст. В OpenAI підкреслили, що її Політика використання все ще застосовується, яка забороняє створювати інструменти ШІ для неповнолітніх, що включають сексуальний контент.
Раніше було відомо, що ChatGPT обмежував свої можливості через так звану політику патерналізму у сфері ШІ, яка описується як «знання того, що краще для користувача».
Окрім обмеження створення порнографії, патерналізм у ШІ може стати на заваді спеціалістам, які використовують ChatGPT для аналізу описів місця злочину правоохоронними органами, певних типів новин, юридичних документів, які можуть містити насильство або сексуальний контент, а іноді й медичних текстів. Тому багато користувачів закликали додати в ChatGPT «дорослий режим».
«Після першого випуску Model Spec (травень 2024 року) багато користувачів і розробників висловилися за те, щоб увімкнути „дорослий режим“. Ми вивчаємо, як дозволити розробникам і користувачам генерувати еротику і кров у відповідному віковому контексті через API і ChatGPT за умови дотримання наших правил використання — при цьому проводячи жорстку лінію проти потенційно шкідливого використання, наприклад, сексуальних підробок і порно з помсти», — прокоментували в компанії.
Генеральний директор OpenAI Сем Альтман (Sam Altman) також публічно згадував про необхідність «дорослого режиму» в минулому. І хоча здається, що «дорослий режим» нарешті з’явився, технічно це не «режим», а нова універсальна політика, яка потенційно дає користувачам ChatGPT більшу гнучкість у взаємодії з ШІ-помічником.
