OpenAI пом’якшила заборону на військове використання ChatGPT
Цього тижня компанія OpenAI видалила з політики використання формулювання, які прямо забороняли застосування його технологій, зокрема ChatGPT, у військових цілях.
Цього тижня компанія OpenAI видалила з політики використання формулювання, які прямо забороняли застосування його технологій, зокрема ChatGPT, у військових цілях.
Редакція політики використання технологій OpenAI була неанонсована, пише The Intercept. Після 10 січня заборону на «діяльність, яка має високий ризик фізичної шкоди, включно з», зокрема, «розробленням зброї» та «військовими діями» замінили на заборону «використовувати наш сервіс, щоб завдати шкоди собі або іншим» і наводиться як приклад «розробка або використання зброї», але загальна заборона на «військове та бойове» використання зникла.
«Ми прагнули створити набір універсальних принципів, які легко запам’ятати та застосувати, особливо тому, що наші інструменти зараз використовуються в усьому світі звичайними користувачами, які тепер також можуть створювати GPT. Такий принцип, як „Не шкоди іншим“, є широким, але легко зрозумілим і актуальним у багатьох контекстах. Крім того, ми конкретно навели зброю та поранення інших як яскраві приклади», — повідомив представник OpenAI Ніко Фелікс в електронному листі The Intercept.
На питання, чи розпливчаста заборона на «шкоду» охоплює будь-яке використання у військових цілях, Фелікс написав, що «будь-яке використання наших технологій, у тому числі військовими, для „[розробки] або [використання] зброї, [поранення] інших або [знищення] власності або [брати участь] у несанкціонованих діях, які порушують безпеку будь-якої служби чи системи“, заборонено».
Хайді Хлааф, інженерна директорка фірми з кібербезпеки Trail of Bits та експертка із машинного навчання та безпеки автономних систем, додала, що нова політика, схоже, наголошує на законності, а не на безпеці. «Між цими двома політиками є чітка різниця, оскільки в першій чітко зазначено, що розробка зброї, а також військові дії та військові дії заборонені, тоді як у другій наголошується на гнучкості та дотриманні закону», — сказала вона, акцентуючи, що розробка зброї та здійснення діяльності, пов’язаної з військовими діями, законні тою чи іншою мірою.
Огляд нестандартних ботів на основі ChatGPT, запропонованих OpenAI, свідчить про те, що військовослужбовці США вже використовують технологію для прискорення документообігу.