Компанія Anthropic уперше за тривалий час внесла суттєві зміни до політики використання своїх моделей. Відтепер розробники офіційно забороняють образливе ставлення та знущання з ШІ-чатбота Claude — йому дадуть змогу достроково припиняти такі чати.
Компанія Anthropic уперше за тривалий час внесла суттєві зміни до політики використання своїх моделей. Відтепер розробники офіційно забороняють образливе ставлення та знущання з ШІ-чатбота Claude — йому дадуть змогу достроково припиняти такі чати.
Про це йдеться в офіційному блозі компанії.
Згідно з новими правилами, Anthropic заборонила «тривалу та безпідставну образливу або жорстоку поведінку» щодо Claude. Основним інструментом забезпечення дотримання цього правила залишається право чатбота достроково припиняти розмову з токсичними користувачами на платформах Claude.ai та Claude Code. У компанії уточнюють, що це правило застосовуватиметься лише у крайніх випадках і не стосуватиметься звичайного розчарування користувачів, складних творчих тем або тестування моделей на стійкість.
Окрім «добробуту моделей», Anthropic суттєво розширила заборону на військове застосування своїх технологій. Оновлені правила забороняють використовувати Claude для створення софту для управління зброєю, систем наведення, а також для озброєння дронів та інших автономних транспортних засобів. Розробники визнали, що фіксували непоодинокі спроби застосувати ШІ саме для таких завдань.
Також у компанії чіткіше сформулювали заборону на стеження за людьми без їхньої згоди та на створення відповідного софту. Це рішення ухвалили після того, як звіт про аналіз загроз виявив випадки використання систем на базі Claude для відстеження політичних дисидентів.
«Claude не можна використовувати для прийняття рішень або надання рекомендацій щодо того, кого слід розслідувати, заарештувати або пред’явити звинувачення в рамках правоохоронної діяльності чи кримінального судочинства», — наголосили в Anthropic.
Серед інших оновлень — заборона прихованих інформаційних кампаній, дезінформації виборців та підробки акаунтів. Якщо ж модель штучного інтелекту підключена до автономного фізичного обладнання, яке може завдати шкоди людям, політика вимагає обов’язкової присутності кваліфікованого оператора для контролю. При цьому в Anthropic зауважили, що правила можуть коригуватися для окремих урядових замовників, якщо договір містить достатні запобіжні заходи.
На відміну від багатьох інших розробників, Anthropic регулярно досліджує питання потенційної свідомості та морального статусу штучного інтелекту. Керівник цього напряму в компанії Кайл Фіш та генеральний директор Даріо Амодей раніше зазначали, що питання внутрішнього досвіду моделей стають важливішими в міру їхнього ускладнення.
