В OpenAI заявили про призупинення розробки окремих елементів нової моделі Astra. Внутрішній аудит показав суттєвий стрибок у її можливостях написання коду та кібербезпеки — деталі виявилися достатньо потужними, щоб викликати занепокоєння щодо безпеки розробки.
В OpenAI заявили про призупинення розробки окремих елементів нової моделі Astra. Внутрішній аудит показав суттєвий стрибок у її можливостях написання коду та кібербезпеки — деталі виявилися достатньо потужними, щоб викликати занепокоєння щодо безпеки розробки.
OpenAI повідомила, що Astra, яка все ще перебуває в розробці, досягла «критичного порогу кібербезпеки». Це означає, що вона здатна самостійно виявляти та здійснювати кібератаки на реальні системи, які зазвичай добре захищені. Це призвело до активації додаткових заходів безпеки, повідомляє TechCrunch.
«Поки ми продовжуємо тестувати та оцінювати цю модель, наші попередні перевірки вказують на стільки високі результати, що наразі ми не можемо виключити ймовірність досягнення Критичного рівня можливостей», — заявили в OpenAI. — «Astra — це наша майбутня модель, і вона не була задіяна в експлуатації вразливостей Hugging Face».
В OpenAI заявили, що діляться цією інформацією, оскільки вважають, що «важливо бути прозорими перед громадськістю та спільнотами з безпеки щодо цього потенційного стрибка в можливостях».
Компанія також зазначила, що вживає заходів, зокрема запроваджує суворіший контроль безпеки та призупиняє внутрішню діяльність, пов’язану з Astra, яка не відповідає цим посиленим обмеженням. У OpenAI додали, що співпрацюють із відповідними урядовими агентствами та «обраними організаціями з безпеки ШІ», щоб протестувати можливості цієї моделі.
