США, Великобритания и другие страны подписали соглашение, чтобы сделать искусственный интеллект более безопасным для человечества. Этот документ, состоящий из 20 страниц, был обнародован 26 ноября.
США, Великобритания и другие страны подписали соглашение, чтобы сделать искусственный интеллект более безопасным для человечества. Этот документ, состоящий из 20 страниц, был обнародован 26 ноября.
В документе «Руководство по разработке безопасных систем искусственного интеллекта» описывается, как компании, занимающиеся искусственным интеллектом, должны обеспечивать свою кибербезопасность при разработке или использовании моделей искусственного интеллекта.
Это в основном общие рекомендации, такие как мониторинг систем ИИ на наличие злоупотреблений, защита данных от подделки, проверка поставщиков программного обеспечения, обучение персонала рискам кибербезопасности и т. д.
Но в документе не упоминаются определенные спорные вопросы, такие как использование моделей генерации изображений и глубоких фейков или методов сбора данных и использование в учебных моделях.
Среди других соавторов, подписавших документ, Австралия, Канада, Франция, Германия, Израиль, Италия, Япония, Новая Зеландия, Нигерия, Норвегия, Южная Корея и Сингапур. Также к разработке инструкций подключились OpenAI, Microsoft, Google, Anthropic и Scale AI.
