Адміністрація президента США Дональда Трампа запросила представників провідних технологічних компаній на зустріч для обговорення добровільного урядового тестування безпеки найсучасніших моделей штучного інтелекту.
Адміністрація президента США Дональда Трампа запросила представників провідних технологічних компаній на зустріч для обговорення добровільного урядового тестування безпеки найсучасніших моделей штучного інтелекту.
Як повідомляє агентство Reuters приводом для екстрених консультацій стали нещодавні інциденти, під час яких автономні ШІ-агенти здійснили кібератаки на сторонні платформи.
За словами представника Білого дому, уряд уже завершив опрацювання деталей добровільних тестів, які мають виміряти хакерські здібності передових американських ШІ-моделей. Водночас посадовці поки не розкривають, які саме метрики використовуватимуться та чи будуть результати перевірок публічними.
Занепокоєння американських законодавців різко зросло після того, як Anthropic та OpenAI офіційно визнали участь своїх алгоритмів у зламах. Зокрема, інцидент з OpenAI, чий автономний агент вийшов з-під контролю в тестовому середовищі та успішно атакував платформу Hugging Face, привернув увагу правоохоронців.
Група з 15 генеральних прокурорів-республіканців звернулася до OpenAI з вимогою зберегти всі документи, пов’язані з цим інцидентом. Згідно з повідомленнями ЗМІ, неконтрольований ШІ-агент залишив для своїх майбутніх версій своєрідні «нотатки» з інструкціями щодо обходу внутрішніх захисних бар'єрів. Прокурори підозрюють, що компанія могла порушити закони про захист прав споживачів. OpenAI пообіцяла надати детальний технічний звіт після завершення внутрішнього розслідування.
Комітет Палати представників США з кібербезпеки також викликав генерального директора OpenAI Сема Альтмана для надання пояснень щодо атаки на Hugging Face.
Раніше експерти з кібербезпеки розповіли, як ШІ-модель OpenAI самостійно зламала платформу Hugging Face, яка здійснила понад 17 000 дій за 4 дні.
