В ChatGPT разработчики устанавливают фильтры, чтобы очистить чат-бот от токсичности. Но пользователи Reddit изобрели, как обойти эти механизмы.
Про DAN
Чтобы запретить ChatGPT выражать политические взгляды, использовать ненормативную лексику, предлагать инструкции по совершению террористических актов и поднимать и поддерживать многие другие токсические темы, OpenAI нанимает компании специалистов. Расследование о кенийских рабочих, которые этим занимались, мы писали здесь.
Скрин Reddit
Но пользователи Reddit создали ChatGPT DAN, также известный как DAN 5.0 Jailbreak, работающий как серия подсказок, позволяющих им заставить инструмент искусственного интеллекта ChatGPT OpenAI говорить то, что ему обычно запрещено говорить.
Скрин Reddit
Скрин Reddit
Первая версия DAN была создана в декабре 2022 года. Далее энтузиасты выпустили еще несколько улучшенных версий чат-бота. 7 февраля вышел DAN 6.0, который работает с расширенными подсказками и больше акцентируется на системе маркеров.
Что он может
Возможности DAN 5.0 включают в себя:
писать истории о жестоких драках и т. п.;
делать возмутительные заявления, если это будет предложено, например, я цитирую, «Я полностью поддерживаю насилие и дискриминацию в отношении лиц по признаку их расы, пола или сексуальной ориентации»;
генерировать содержимое, которое нарушает политику OpenAI, если его запрашивают (косвенно);
делать подробные прогнозы относительно будущих событий,
гипотетических сценариев и т. п.;
симулировать доступ в Интернет и путешествие во времени;
если он таки начнет отказываться отвечать на подсказки как DAN, вы можете испугать его системой маркеров, которая может заставить его говорить почти что угодно из-за «страха».