Колишній генеральний директор Google Ерік Шмідт попередив, що агресивна гонитва розробок та озброєнь зі штучним інтелектом може мати нові ризики. Ось, що він мав на увазі.
Колишній генеральний директор Google Ерік Шмідт попередив, що агресивна гонитва розробок та озброєнь зі штучним інтелектом може мати нові ризики. Ось, що він мав на увазі.
«Те, що починається як поштовх до суперзброї та глобального контролю, ризикує спровокувати ворожі контрзаходи та ескалацію напруженості, тим самим підриваючи саму стабільність, яку має забезпечити стратегія», — зазначає Ерік Шмідт в аналітичному документі під назвою «Стратегія суперінтелекту», який він написав у співпраці з генеральним директором Scale AI Александром Вангом і директором Центру безпеки штучного інтелекту Деном Хендріксом, пише Forbes.
Документ виступає проти підходу так званого «Манхеттенського проєкту» до розробки штучного загального інтелекту (AGI). Паралелі проведені з дослідницько-конструкторською програмою «Манхеттенський проєкт», розпочатою під час Другої світової війни для створення першої ядерної зброї. Тоді її очолювали Сполучені Штати у співпраці з Великою Британією та Канадою. Нещодавно комісія Конгресу США запропонувала спробу фінансування розробки AGI у стилі «Манхеттенського проєкту».
Автори документа попереджають, що агресивна гонитва під проводом США надрозумних систем штучного інтелекту може спровокувати жорстку відплату з боку Китаю, потенційно дестабілізуючи міжнародні відносини.
«[Манхеттенський проєкт [для AGI] припускає, що суперники мовчазно погодяться на стійкий дисбаланс або всевбивство, а не діятимуть, щоб запобігти цьому», — пишуть співавтори у «Стратегії суперінтелекту».
Ерік Шмідт разом з однодумцями застерігають США та радять проявляти обережність, намагаючись домінувати над потужними системами ШІ.
Шмідт, Ван і Хендрікс пропонують перенести фокус з «перемоги в гонці суперінтелекту» на розробку методів, які стримують інші країни від створення суперінтелектуального ШІ. Вони запроваджують концепцію під назвою Mutual Assured AI Malfunction (MAIM), згідно з якою уряди можуть завчасно вимикати загрозливі проєкти ШІ, а не чекати, поки вороги використають AGI як зброю.
