Рішення було ухвалене через підозри щодо доступу до системи китайських розробників, а також через критичні вразливості, про які уряд попередила компанія Amazon.
Рішення було ухвалене через підозри щодо доступу до системи китайських розробників, а також через критичні вразливості, про які уряд попередила компанія Amazon.
Як повідомляють джерела Semafor, знайомі із ситуацією, у п’ятницю Білий дім зобов’язав Anthropic обмежити доступ до моделей виключно для громадян США. Оскільки це правило заборонило б користуватися розробкою навіть іноземним співробітникам самої Anthropic, компанія вирішила повністю зняти ці продукти з ринку.
Anthropic випустила модель Mythos у квітні та жорстко контролювала доступ до неї, надаючи його лише обраним компаніям для пошуку прогалин у кібербезпеці. Розробники наголошували, що модель становить небезпеку для громадськості через її здатність знаходити баги в комп’ютерному коді, якими можуть скористатися зловмисники. За словами джерел, доступ китайського уряду до такої системи міг би створити загрозу національній безпеці США, а також дозволив би скопіювати технологію за допомогою процесу, відомого як дистиляція (distillation).
Нові деталі щодо інциденту розкрив радник президента Девід Сакс. За його словами, уряд отримав попередження про те, що споживчу версію моделі Fable 5, яка вийшла на початку минулого тижня зі вбудованими бар'єрами безпеки, можна «зламати». Сакс стверджує, що коли адміністрація повідомила про це компанію, співзасновник та CEO Anthropic Даріо Амодей назвав вразливість несуттєвою і відмовився її виправляти. Саме це, за словами радника, змусило уряд застосувати жорсткі експортні обмеження.
Про вразливість Білому дому розповіла компанія Amazon, а її CEO Енді Джассі особисто контактував із представниками адміністрації.
Представник Anthropic заявив, що Білий дім не порушував питання доступу з боку Китаю під час обговорень вразливостей Fable. У компанії також наголосили, що доступ до їхніх продуктів із території Китаю системно блокується.
В Amazon своєю чергою не стали спростовувати факт контактів з урядом. «Це не є чимось незвичним, коли уряди звертаються до нас за консультаціями щодо потенційних ризиків безпеки. Коли це відбувається, ми не розголошуємо деталі таких обговорень», — прокоментував представник корпорації.
Нагадаємо, раніше повідомлялося, що Сполучені Штати Америки мають від шести до дванадцяти місяців, перш ніж Китай отримає доступ до американських передових моделей штучного інтелекту, таких як Mythos, або створить власні аналоги, здатні здійснювати масштабні кібератаки.
