OpenAI повідомила, що випускає набір промптів, які допоможуть розробникам зробити їхні додатки безпечнішими для підлітків. Лабораторія ШІ зазначила, що цей набір правил безпеки можна використовувати разом із її моделлю з відкритими вагами, відомою як gpt-oss-safeguard.
OpenAI повідомила, що випускає набір промптів, які допоможуть розробникам зробити їхні додатки безпечнішими для підлітків. Лабораторія ШІ зазначила, що цей набір правил безпеки можна використовувати разом із її моделлю з відкритими вагами, відомою як gpt-oss-safeguard.
Замість того, щоб з нуля вигадувати, як зробити ШІ безпечнішим для підлітків, розробники можуть використовувати ці промпти для захисту своїх продуктів. Вони охоплюють такі проблеми, як графічне насильство та сексуальний контент, шкідливі ідеали краси та моделі поведінки, небезпечні заняття та челенджі, романтичні чи насильницькі рольові ігри, а також товари та послуги з віковими обмеженнями, пише TechCrunch.
Ці політики безпеки розроблені у форматі промптів, що робить їх легко сумісними з іншими моделями, окрім gpt-oss-safeguard, хоча вони, ймовірно, найефективніші саме в екосистемі OpenAI.
Для написання цих промптів OpenAI співпрацювала з організаціями з безпеки ШІ Common Sense Media та everyone.ai.
«Ці політики на основі промптів допомагають встановити вагомий базовий рівень безпеки в усій екосистемі, а оскільки вони випущені як відкритий код, їх можна адаптувати та вдосконалювати з часом», — зазначив у своїй заяві Роббі Торні, керівник відділу ШІ та цифрових оцінок у Common Sense Media.
У своєму блозі OpenAI зауважила, що розробникам, зокрема й досвідченим командам, часто буває складно перетворити загальні цілі безпеки на чіткі операційні правила.
В OpenAI визнають, що ці політики не є остаточним розв’язанням складних викликів у сфері безпеки ШІ. Проте вони ґрунтуються на попередніх напрацюваннях компанії, зокрема на таких інструментах захисту на рівні продуктів, як батьківський контроль та прогнозування віку. Торік OpenAI оновила настанови для своїх великих мовних моделей (відомі як Model Spec), щоб визначити, як саме ШІ має взаємодіяти з користувачами віком до 18 років.
Попри небездоганну репутацію у сфері безпеки ШІ, ці кроки є позитивним зрушенням, зокрема для незалежних розробників.
