OpenAI смягчил запрет на военное использование ChatGPT
На этой неделе компания OpenAI удалила из политики использование формулировки, прямо запрещавших применение его технологий, в частности ChatGPT, в военных целях.
На этой неделе компания OpenAI удалила из политики использование формулировки, прямо запрещавших применение его технологий, в частности ChatGPT, в военных целях.
Редакция политики использования технологий OpenAI была анонсирована, пишет The Intercept. После 10 января запрет на «деятельность, имеющую высокий риск физического ущерба, включая», в частности, «разработку оружия» и «военные действия» заменили запретом «использовать наш сервис, чтобы нанести вред себе или другим» и приводится в пример «разработка или использование оружия», но общий запрет на «военное и боевое» использование исчез.
Мы стремились создать набор универсальных принципов, которые легко запомнить и применить, особенно потому, что наши инструменты сейчас используются во всем мире обычными пользователями, которые теперь также могут создавать GPT. Такой принцип, как «Не вреди другим», широк, но легко понятен и актуален во многих контекстах. Кроме того, мы конкретно привели оружие и ранения других в качестве ярких примеров», — сообщил представитель OpenAI Нико Феликс в электронном письме The Intercept.
На вопрос, охватывает ли расплывчатый запрет на «вред» любое использование в военных целях, Феликс написал, что «любое использование наших технологий, в том числе военными, для „[разработки] или [использования] оружия, [ранения] других или [уничтожение] собственности или [участвовать] в несанкционированных действиях, нарушающих безопасность любой службы или системы“, запрещено».
Хайди Хлааф, инженерный директор фирмы по кибербезопасности Trail of Bits и эксперт по машинному обучению и безопасности автономных систем, добавила, что новая политика, похоже, подчеркивает законность, а не безопасность. «Между этими двумя политиками есть четкая разница, поскольку в первой четко указано, что разработка оружия, а также военные действия и военные действия запрещены, тогда как во второй отмечается гибкость и соблюдение закона», — сказала она, акцентируя, что разработка оружия и осуществление деятельности, связанной с военными действиями, законны в той или иной степени.
Обзор нестандартных ботов на основе ChatGPT, предложенных OpenAI, свидетельствует, что военнослужащие США уже используют технологию для ускорения документооборота.