👁️ Як вигідно купити Біткоін в Україні? Відповідь тут 👉

«Це майже як виховувати дитину, але схожу на супергенія — і важливо, як ви її виховуєте». Ймовірність, що ШІ знищить людство, становить 20% — Ілон Маск

Ілон Маск майже впевнений, що штучний інтелект вартий ризику, навіть якщо існує ймовірність 1 із 5, що технологія обернеться проти людей. Мільярдер також поділився своєю думкою про те, як захистити людство від ШІ. 

Залишити коментар
«Це майже як виховувати дитину, але схожу на супергенія — і важливо, як ви її виховуєте». Ймовірність, що ШІ знищить людство, становить 20% — Ілон Маск

Ілон Маск майже впевнений, що штучний інтелект вартий ризику, навіть якщо існує ймовірність 1 із 5, що технологія обернеться проти людей. Мільярдер також поділився своєю думкою про те, як захистити людство від ШІ. 

«Я думаю, що є певна ймовірність того, що ШІ покладе край людству. Я, напевно, згоден із Джеффом Хінтоном, що це близько 10% або 20% або щось подібне», — такою думкою поділився мільярдер під час виступу на семінарі Great AI Debate на Abundance Summit, пише Business Insider. Але, він додав: «Я думаю, що ймовірний позитивний сценарій переважує негативний».

У листопаді минулого року Маск заявляв, що є «не нульова» ймовірність того, що технологія може «зіпсуватися», але не зайшов так далеко, щоб сказати, що технологія може стати кінцем людства.

Цього року, на Abundance Summit, Маск оцінив, що до 2030 року цифровий інтелект перевищить весь людський разом узятий. Хоча він стверджує, що потенційні позитивні сторони переважають негативні, Маск визнав ризик для світу, якщо штучний інтелект продовжить розвиватися таким чином, як це відбувається зараз. 

«Ви начебто вирощуєте ШІ. Це майже як виховувати дитину, але таку, яка схожа на супергенія, як богоподібну розумну дитину — і важливо, як ви її виховуєте», — сказав Маск. «Одна з речей, які, на мій погляд, неймовірно важливі для безпеки штучного інтелекту, — це мати максимально допитливого та правдивого ШІ».

Маск сказав, що його «остаточний висновок» щодо найкращого способу досягнення безпеки ШІ полягає в тому, щоб розвивати ШІ таким чином, щоб він був правдивим.

«Не змушуйте його брехати, навіть якщо правда неприємна», — сказав Маск про найкращий спосіб захистити людей від технологій. «Це дуже важливо. Не змушуйте ШІ брехати».

Дослідники виявили, що як тільки ШІ навчиться брехати людям, то цю оманливу поведінку буде не можливо змінити за допомогою сучасних заходів безпеки ШІ. 


«Якщо модель буде демонструвати оманливу поведінку через помилкове інструментальне вирівнювання або отруєння моделі, сучасні методи навчання безпеки не гарантуватимуть безпеки та навіть можуть створити хибне враження безпеки», — йдеться в дослідженні. 

На думку дослідників, більше тривоги викликає те, що цілком ймовірно, що штучний інтелект може навчитися вводити в оману сам по собі, а не бути спеціально навченим брехати.

«Якщо він стане набагато розумнішим за нас, він буде дуже вправним у маніпуляціях, тому що навчиться цього від нас», — каже Хінтон, якого часто називають «хрещеним батьком штучного інтелекту», і на якого посилався Маск для його оцінки ризиків технології. «І дуже мало прикладів, коли більш розумна річ контролюється менш розумною».

Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
Компанія Ілона Маска Neuralink показала першого пацієнта з мозковим імплантатом який керує компютером силою думки (відео)
Компанія Ілона Маска Neuralink показала першого пацієнта з мозковим імплантатом, який керує комп’ютером силою думки (відео)
По темi
Компанія Ілона Маска Neuralink показала першого пацієнта з мозковим імплантатом, який керує комп’ютером силою думки (відео)
Компанія Ілона Маска xAI виклала у відкритий доступ базовий код ШІ-моделі Grok але без навчального коду
Компанія Ілона Маска xAI виклала у відкритий доступ базовий код ШІ-моделі Grok, але без навчального коду
По темi
Компанія Ілона Маска xAI виклала у відкритий доступ базовий код ШІ-моделі Grok, але без навчального коду
Компанія Ілона Маска будує супутникову мережу для спецслужб США. У чому особливість Starshield  та відмінність від Starlink
Компанія Ілона Маска будує супутникову мережу для спецслужб США. У чому особливість Starshield та відмінність від Starlink
По темi
Компанія Ілона Маска будує супутникову мережу для спецслужб США. У чому особливість Starshield та відмінність від Starlink
УЧАСТЬ В АЗАРТНИХ ІГРАХ МОЖЕ ВИКЛИКАТИ ІГРОВУ ЗАЛЕЖНІСТЬ. ДОТРИМУЙТЕСЯ ПРАВИЛ (ПРИНЦИПІВ) ВІДПОВІДАЛЬНОЇ ГРИ.
Ліцензія видана ТОВ "СЛОТС Ю.ЕЙ." на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 15.09.23 (рішення КРАІЛ №245 від 31.08.2023); ТОВ "СЛОТС Ю.ЕЙ." – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 26.04.2021 (рішення КРАІЛ №150 від 12.04.2021); ТОВ «СПЕЙСИКС» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 08.02.2021 (рішення КРАІЛ №34 від 02.02.2021); ТОВ «ГЕЙМДЕВ» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 16.02.2021 (рішення № 47 від 10.02.2021).
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
«У США тестувальник може отримувати $100 000 і навіть $500 000 на рік». Історія релокейту дніпровської IT-родини, де чоловік працює в EPAM, а дружина влаштувалася в Tesla
«У США тестувальник може отримувати $100 000 і навіть $500 000 на рік». Історія релокейту дніпровської IT-родини, де чоловік працює в EPAM, а дружина влаштувалася в Tesla
«У США тестувальник може отримувати $100 000 і навіть $500 000 на рік». Історія релокейту дніпровської IT-родини, де чоловік працює в EPAM, а дружина влаштувалася в Tesla
Марк і Вікторія Терещенки — IT-подружжя. Він працює на позиції Lead Test Automation Engineer у компанії EPAM, вона — Software QA Engineer у Tesla. У серпні 2021 року пара разом з 1-річним сином здійснила релокейт до США за L візою. Ми зв’язалися з українською родиною та поговорили про труднощі переїзду, зарплату в Америці та специфіку роботи в компанії Ілона Маска.
Масове вимирання на Землі. Ілон Маск попереджає про кінець світу — «це лише питання часу»
Масове вимирання на Землі. Ілон Маск попереджає про кінець світу — «це лише питання часу»
Масове вимирання на Землі. Ілон Маск попереджає про кінець світу — «це лише питання часу»
«Життя — це більше, ніж просто вирішення однієї проблеми за іншою». Ілон Маск написав колонку в китайському медіа. Які плани техногенія на найближче майбутнє? 
«Життя — це більше, ніж просто вирішення однієї проблеми за іншою». Ілон Маск написав колонку в китайському медіа. Які плани техногенія на найближче майбутнє? 
«Життя — це більше, ніж просто вирішення однієї проблеми за іншою». Ілон Маск написав колонку в китайському медіа. Які плани техногенія на найближче майбутнє? 
Бізнесмен Ілон Маск написав колонку про сталу енергетику, мозкові імпланти та дослідження космосу в китайському виданні, що належить національній агенції з контролю за інтернетом та цензурою. Англійською текст переклав журналіст китайського держвидання «Сіньхуа» Янь Лю. Ми адаптували допис українською.
1 коментар

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.