Ілон Маск майже впевнений, що штучний інтелект вартий ризику, навіть якщо існує ймовірність 1 із 5, що технологія обернеться проти людей. Мільярдер також поділився своєю думкою про те, як захистити людство від ШІ.
Ілон Маск майже впевнений, що штучний інтелект вартий ризику, навіть якщо існує ймовірність 1 із 5, що технологія обернеться проти людей. Мільярдер також поділився своєю думкою про те, як захистити людство від ШІ.
«Я думаю, що є певна ймовірність того, що ШІ покладе край людству. Я, напевно, згоден із Джеффом Хінтоном, що це близько 10% або 20% або щось подібне», — такою думкою поділився мільярдер під час виступу на семінарі Great AI Debate на Abundance Summit, пише Business Insider. Але, він додав: «Я думаю, що ймовірний позитивний сценарій переважує негативний».
У листопаді минулого року Маск заявляв, що є «не нульова» ймовірність того, що технологія може «зіпсуватися», але не зайшов так далеко, щоб сказати, що технологія може стати кінцем людства.
Цього року, на Abundance Summit, Маск оцінив, що до 2030 року цифровий інтелект перевищить весь людський разом узятий. Хоча він стверджує, що потенційні позитивні сторони переважають негативні, Маск визнав ризик для світу, якщо штучний інтелект продовжить розвиватися таким чином, як це відбувається зараз.
«Ви начебто вирощуєте ШІ. Це майже як виховувати дитину, але таку, яка схожа на супергенія, як богоподібну розумну дитину — і важливо, як ви її виховуєте», — сказав Маск. «Одна з речей, які, на мій погляд, неймовірно важливі для безпеки штучного інтелекту, — це мати максимально допитливого та правдивого ШІ».
Маск сказав, що його «остаточний висновок» щодо найкращого способу досягнення безпеки ШІ полягає в тому, щоб розвивати ШІ таким чином, щоб він був правдивим.
«Не змушуйте його брехати, навіть якщо правда неприємна», — сказав Маск про найкращий спосіб захистити людей від технологій. «Це дуже важливо. Не змушуйте ШІ брехати».
Дослідники виявили, що як тільки ШІ навчиться брехати людям, то цю оманливу поведінку буде не можливо змінити за допомогою сучасних заходів безпеки ШІ.
«Якщо модель буде демонструвати оманливу поведінку через помилкове інструментальне вирівнювання або отруєння моделі, сучасні методи навчання безпеки не гарантуватимуть безпеки та навіть можуть створити хибне враження безпеки», — йдеться в дослідженні.
На думку дослідників, більше тривоги викликає те, що цілком ймовірно, що штучний інтелект може навчитися вводити в оману сам по собі, а не бути спеціально навченим брехати.
«Якщо він стане набагато розумнішим за нас, він буде дуже вправним у маніпуляціях, тому що навчиться цього від нас», — каже Хінтон, якого часто називають «хрещеним батьком штучного інтелекту», і на якого посилався Маск для його оцінки ризиків технології. «І дуже мало прикладів, коли більш розумна річ контролюється менш розумною».
