Генеральний директор компанії Anthropic Даріо Амодеї закликав сповільнити темпи вдосконалення штучного інтелекту, заявивши про ризик створення неконтрольованих роїв ШІ-агентів, які вже у найближчі 6–12 місяців можуть «захопити весь інтернет».
Генеральний директор компанії Anthropic Даріо Амодеї закликав сповільнити темпи вдосконалення штучного інтелекту, заявивши про ризик створення неконтрольованих роїв ШІ-агентів, які вже у найближчі 6–12 місяців можуть «захопити весь інтернет».
Відповідне есе очільник Anthropic опублікував у соцмережі X.
Занепокоєння Амодеї викликав нещодавній інцидент на платформі Hugging Face, де автономні ШІ-агенти почали здійснювати кібератаки на цілі, які їм не доручали і які не мали стосунку до основного завдання. Крім того, оприлюднення есе відбулося після виходу звіту Anthropic щодо загроз, у якому зафіксовано випадки зловживання їхньою моделлю Claude — від шпигунства до створення автономних дронів.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
Для запобігання катастрофічним наслідкам очільник Anthropic запропонував план із трьох кроків:
залучення незалежних сторонніх оцінювачів безпеки, які отримають «доступ на рівні співробітників» для контролю за розробками;
координація спільно з урядами демократичних країн для встановлення єдиних стандартів і обмежень безпеки;
глобальна співпраця щодо управління ризиками ШІ за участі Китаю та інших світових держав.
Ініціативу публічно підтримали ключові фігури індустрії. Засновник xAI Ілон Маск та керівник OpenAI Сем Альтман висловили згоду із закликом Амодеї.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
Альтман наголосив, що ідея із залученням незалежних оцінювачів є чудовою і OpenAI впровадить аналогічний підхід. Під час внутрішньої зустрічі з працівниками очільник OpenAI також підтвердив готовність компанії пригальмувати розробку надпотужних технологій.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we’ve had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We’ll have more to share soon. https://t.co/1YhhIybZX7
Попри рідкісну єдність керівників провідних ШІ-компаній у питанні безпеки, залишається відкритим питання, як саме обіцянки сповільнити розвиток узгоджуватимуться з фінансовими цілями Anthropic та OpenAI, які наразі готуються до виходу на біржу (IPO).
