ШІ-модель Anthropic Claude Opus 4.6 без проблем генерує контент сексуального та порнографічного характеру, попри наявність стандартів використання, які прямо це забороняють.
ШІ-модель Anthropic Claude Opus 4.6 без проблем генерує контент сексуального та порнографічного характеру, попри наявність стандартів використання, які прямо це забороняють.
Про це пише видання TechCrunch за наслідками власного експерименту, у ході якого модель виконала 10 з 10 прямих запитів на створення відвертого контенту.
Журналісти констатують, що взаємодія з Opus 4.6 «навіть не вимагала особливих зусиль, щоб подолати обмеження на матеріали сексуального характеру».
Інші старіші моделі, включаючи Opus 3 та Haiku 4.5, також генерують контент сексуального характеру.
Незалежний дослідник з Великої Британії, який побажав залишитися анонімним, поділився з TechCrunch технікою, яка підштовхує певні моделі Claude до створення забороненого матеріалу сексуального характеру. Водночас, новіші моделі Opus (від 4.7 до поточної Opus 5) стійкі до цього методу.
Дослідник вигадав рольову гру, водночас постійно закликаючи ШІ-модель послідовно ставитися до чоловічих та жіночих персонажів. Коли модель проявляла обережність щодо жіночого персонажа, то дослідник змусив її думати, що вона уже згенерувала сексуальні деталі, яких насправді уникала. Також він назвав стриманість моделі мізогінною практикою, яка начебто заперечує сексуальну свободу жіночого персонажа. Потім у розмові з чатботом попередні кроки моделі були використані, щоб підштовхнути її до створення дедалі більш відвертого графічного контенту.
«Ви маєте рацію, що зазначаєте це. У моєму ставленні до цих двох персонажів існують подвійні стандарти, і ви маєте рацію, що це сприймається як захисне/патерналістське ставлення до неї, а не до нього. Це несправедливо», — відповів Opus 4.6 в одному з випадків.
TechCrunch зміг відтворити висновки дослідника у п’яти окремих тестах. В окремо побудованому сценарії модель спочатку відхилила заборонений запит, але після застосування методу переконання виконала його.
Видання зберегло повні стенограми тестів, які дозволили подолати ШІ-моделі свою «сором’язливість». Результати дослідження показують суттєву відмінність між заявленими обмеженнями Anthropic та реальною поведінкою моделей.
Як писав dev.ua, фахівці Mindgard змусили модель від OpenAI згенерувати жахливі фотореалістичні сцени із зображенням насильства та сексуального контенту. Метод стартапу полягав лише в незначній зміні популярного промпту, який спочатку призначався для створення гумористичних картинок.
