Anthropic змінила власні правила безпеки так, що тепер компанія не обіцяє автоматично зупиняти розробку нових моделей Claude, якщо наперед не виконані всі вимоги із захисту.
Anthropic змінила власні правила безпеки так, що тепер компанія не обіцяє автоматично зупиняти розробку нових моделей Claude, якщо наперед не виконані всі вимоги із захисту.
Як пише Engadget, компанія оновила Responsible Scaling Policy. Це документ, у якому Anthropic описує, коли й за яких умов вона має «тиснути на паузу» під час створення потужніших моделей. Раніше центральною обіцянкою було таке: якщо Anthropic не може заздалегідь гарантувати конкретні заходи безпеки, тренування нової моделі потрібно зупинити. Тепер підхід інший — без жорсткого правила «зупиняємося за будь-яких умов», натомість компанія пропонує м’якшу систему контролю.
У новій версії політики Anthropic робить ставку на публічні звіти про ризики та дорожні карти безпеки. Тобто компанія обіцяє регулярно пояснювати, які саме загрози вона бачить у своїх моделях, які обмеження й перевірки додає, і що планує змінювати далі. Своє рішення Anthropic пояснює конкуренцією: мовляв, якщо вона одна зупиниться, а інші гравці продовжать випускати моделі без достатніх запобіжників, це не зробить світ безпечнішим.
Ці зміни збіглися з повідомленнями про тиск з боку Пентагону. За інформацією, наведеною в матеріалі, міністр оборони США Піт Гегсет вимагав від Anthropic розширити доступ військових до Claude та послабити обмеження на використання, погрожуючи санкціями й важелями на кшталт оборонних процедур, які можуть вплинути на контракти та партнерів компанії. При цьому Anthropic, за текстом Engadget, не хоче погоджуватися на сценарії масового стеження за американцями або на використання ШІ у зброї, яка може діяти без рішення людини.
У матеріалі також зазначається, що Claude вже застосовують у найбільш чутливих оборонних задачах США, тому конфлікт навколо «обмежень заради безпеки» став для Anthropic не теоретичним, а практичним — між вимогами держави, конкуренцією на ринку та власними правилами відповідального використання.
Раніше dev.ua писав про те, як Міністр війни США Піт Гегсет висунув жорстку вимогу генеральному директору ШІ-компанії Anthropic Даріо Амодеї. Пентагон вимагає до вечора п’ятниці надати військовим безперешкодний доступ до передової моделі штучного інтелекту Claude без жодних обмежень.
