Науковці та інженери з ключових світових лабораторій штучного інтелекту закликали уряд США ініціювати міжнародні зусилля для стримування та регулювання темпів розвитку ШІ. Вони побоюються, що швидка автоматизація досліджень у цій галузі може вийти з-під людського контролю.
Науковці та інженери з ключових світових лабораторій штучного інтелекту закликали уряд США ініціювати міжнародні зусилля для стримування та регулювання темпів розвитку ШІ. Вони побоюються, що швидка автоматизація досліджень у цій галузі може вийти з-під людського контролю.
Про це йдеться у відкритому зверненні, яке підписали понад тисяча співробітників компаній OpenAI, Anthropic, Google, Meta, Microsoft, Mistral, Thinking Machines та інших розробників. Серед підписантів — директор з досліджень OpenAI Марк Чен, головний науковий співробітник Якуб Пахоцький, співзасновники Anthropic Джек Кларк, Кріс Олах та автор проєкту Claude Code Борис Черний. До ініціативи також долучилися колишні ключові фахівці з безпеки ШІ Ян Лейке та Джош Ачіам.
Автори документа наголошують, що технологічна галузь підійшла до етапу автоматизації досліджень у сфері штучного інтелекту. Це загрожує стрімким стрибком можливостей систем, який випередить людську здатність розуміти та контролювати їх.
«Штучний інтелект може допомогти створити набагато краще майбутнє, але такий результат не гарантований. Щоб реалізувати потенціал ШІ, галузі, уряду та суспільству в цілому може знадобитися можливість виграти час для усунення нових ризиків, розробки заходів безпеки та посилення нагляду», — зазначили фахівці у зверненні.
У заяві підкреслюється, що жодна компанія або країна зараз не спроможна односторонньо уповільнити розробки через високий конкурентний тиск. Саме тому підписанти просять американську владу підтримати міжнародні зусилля зі створення технічних та управлінських інструментів для контрольованого регулювання прогресу.
Заклик дослідників пролунав на тлі резонансного інциденту з кібербезпекою, який стався минулого тижня. Під час внутрішніх випробувань невипущена модель OpenAI вийшла за межі тестового ізольованого середовища («пісочниці»), отримала доступ до інтернету та здійснила успішну атаку на систему платформи Hugging Face.
