Anthropic вирішила не відкривати доступ до нової моделі Claude Mythos, оскільки під час тестування вона показала здатність самостійно знаходити серйозні «дірки» в операційних системах і браузерах і пропонувати способи їхнього використання.
Anthropic вирішила не відкривати доступ до нової моделі Claude Mythos, оскільки під час тестування вона показала здатність самостійно знаходити серйозні «дірки» в операційних системах і браузерах і пропонувати способи їхнього використання.
Як повідомляє Anthropic, модель наразі доступна лише обмеженому колу партнерів у межах окремої програми. Серед них — великі технологічні компанії й організації, які відповідають за стабільну роботу інтернет-інфраструктури. У компанії пояснюють це тим, що можливості Mythos можуть становити ризик, якщо їх отримають зловмисники.
Під час тестів модель продемонструвала здатність знаходити тисячі вразливостей у популярному програмному забезпеченні, включно з операційними системами та веббраузерами. У деяких випадках вона не просто вказувала на проблему, а одразу пропонувала, як її використати для атаки. Зокрема, як заявляють у компанії, модель змогла виявити стару вразливість в OpenBSD, яка залишалася непоміченою десятиліттями.
Також дослідники зазначають, що навіть без глибоких знань у кібербезпеці користувачі могли отримувати від моделі робочі сценарії атак — достатньо було правильно сформулювати запит. Це, за оцінкою Anthropic, суттєво знижує поріг входу для потенційних зловмисників.
У компанії наголошують, що спеціально не навчали Mythos для проведення атак. Такі можливості з’явилися як побічний ефект розвитку моделі, яка стала краще працювати з кодом, логікою та складними задачами. Саме це і стало причиною обмеження доступу.
Разом із запуском програми обмеженого доступу Anthropic пообіцяла надати значні ресурси для фахівців з кібербезпеки та відкритих проєктів, щоб допомогти швидше знаходити й закривати вразливості. У компанії прямо визнають, що нове покоління ШІ вже здатне змінити баланс у кібербезпеці — і не лише на користь захисту, а й потенційно для атак.
Раніше dev.ua писав про те, як Anthropic заявила, що її модель Claude не відчуває емоцій у людському сенсі, але внутрішні уявлення про них можуть напряму впливати на вибір дій, зокрема в ризикованих сценаріях.
