Компанія OpenAI опублікувала системну карту для GPT-4o — результати дослідження, що описує заходи безпеки та оцінки ризиків, які стартап провів перед випуском своєї останньої моделі. Воно оцінює можливості нелегального створення копій голосу та еротичного або насильницького контенту.
Компанія OpenAI опублікувала системну карту для GPT-4o — результати дослідження, що описує заходи безпеки та оцінки ризиків, які стартап провів перед випуском своєї останньої моделі. Воно оцінює можливості нелегального створення копій голосу та еротичного або насильницького контенту.
Для цього OpenAI залучила зовнішню групу експертів з безпеки, які намагалися знайти слабкі місця в системі, щоб визначити ключові ризики в моделі. Про це повідомляє The Verge.
Вони вивчали такі ризики, як можливість того, що GPT-4o створить несанкціоновані клони чийогось голосу, еротичного та насильницького контенту або фрагментів відтвореного аудіо, захищеного авторським правом.
Згідно з власною системою OpenAI, дослідники визнали, що GPT-4o містить «середні» ризики. Загальний рівень ризику був взятий з найвищого рейтингу ризику в чотирьох загальних категоріях: кібербезпека, біологічні загрози, переконання та автономія моделі.
Всі вони були визнані низьким ризиком, за одним винятком. Дослідники виявили, що деякі зразки текстів з GPT-4o можуть краще впливати на думку читачів, ніж текст, написаний людиною — хоча в цілому зразки моделі не були більш переконливими.
Це не перша системна карта, яку випускає OpenAI; GPT-4, GPT-4 із зором і DALL-E 3 також були протестовані аналогічним чином, і результати досліджень були опубліковані. Але OpenAI випускає цю системну карту в дуже важливий момент.
Раніше американські сенатори вимагали відповіді на питання про те, як OpenAI поводиться з інформаторами й перевіряє безпеку. У їх листі викладено багато проблем безпеки, про які було заявлено публічно, в тому числі звільнення генерального директора Сема Альтмана у 2023 році через занепокоєння ради директорів і відхід керівника відділу безпеки, який стверджував, що «культура і процеси безпеки відійшли на задній план заради блискучих продуктів».
Крім того, компанія випускає високопродуктивну мультимодальну модель якраз напередодні президентських виборів у США. Існує очевидний потенційний ризик випадкового поширення дезінформації або викрадення моделі зловмисниками — навіть якщо OpenAI сподівається підкреслити, що компанія тестує реальні сценарії, щоб запобігти зловживанням.
Раніше відома американська акторка Скарлетт Йоханссон розповіла, що очільник OpenAI Сем Альтман минулого року пропонував їй озвучити один із жіночих голосів ChatGPT, але вона відхилила цю пропозицію. Однак із релізом версії ChatGPT 4o багато користувачів відзначили разючу схожість жіночого голосу Sky з голосом акторки.
