💳 Термінова новина! Trustee Plus — найкраще рішення для розрахунку криптою 👉

«Это почти как воспитывать ребенка, но похожее на супергения — и важно, как вы его воспитываете». Вероятность, что ИИ уничтожит человечество, составляет 20%

Илон Маск почти уверен, что искусственный интеллект стоит риска, даже если существует вероятность 1 из 5, что технология обернется против людей. Миллиардер также поделился своим мнением о том, как защитить человечество от ИИ.

Оставить комментарий
«Это почти как воспитывать ребенка, но похожее на супергения — и важно, как вы его воспитываете». Вероятность, что ИИ уничтожит человечество, составляет 20%

Илон Маск почти уверен, что искусственный интеллект стоит риска, даже если существует вероятность 1 из 5, что технология обернется против людей. Миллиардер также поделился своим мнением о том, как защитить человечество от ИИ.

«Я думаю, что есть определенная вероятность того, что ИИ положит конец человечеству. Я, наверное, согласен с Джеффом Хинтоном, что это около 10% или 20% или что-то в этом роде», — таким мнением поделился миллиардер во время выступления на семинаре Great AI Debate на Abundance Summit, пишет Business Insider. Но он добавил: «Я думаю, что вероятный положительный сценарий перевешивает негативный».

В ноябре прошлого года Маск заявлял, что существует не нулевая вероятность того, что технология может испортиться, но не зашел так далеко, чтобы сказать, что технология может стать концом человечества.

В этом году, на Abundance Summit, Маск оценил, что к 2030 году цифровой интеллект превзойдет весь человеческий вместе взятый. Хотя он утверждает, что потенциальные положительные стороны преобладают отрицательные, Маск признал риск для мира, если искусственный интеллект продолжит развиваться таким образом, как это происходит сейчас.

«Вы вроде бы выращиваете ИИ. Это почти как воспитывать ребенка, но такого, похожего на супергения, как богоподобного умного ребенка — и важно, как вы его воспитываете», — сказал Маск. «Одна из вещей, которая, на мой взгляд, невероятно важна для безопасности искусственного интеллекта, — это иметь максимально любознательного и правдивого ИИ».

Маск сказал, что его «окончательный вывод» о наилучшем способе достижения безопасности ИИ состоит в том, чтобы развивать ИИ таким образом, чтобы он был правдив.

«Не заставляйте его врать, даже если правда неприятная», — сказал Маск о самом лучшем способе оградить людей от технологий. «Это очень важно. Не заставляйте ИИ врать».

Исследователи обнаружили, что как только ИИ научится врать людям, это обманчивое поведение будет невозможно изменить с помощью современных мер безопасности ИИ.


«Если модель будет демонстрировать обманчивое поведение из-за ошибочного инструментального выравнивания или отравления модели, современные методы обучения безопасности не будут гарантировать безопасность и даже могут создать ошибочное впечатление безопасности», — говорится в исследовании.

По мнению исследователей, больше тревоги вызывает то, что по всей вероятности, что искусственный интеллект может научиться вводить в заблуждение сам по себе, а не быть специально обученным врать.

«Если он станет намного умнее нас, он будет очень искусным в манипуляциях, потому что научится этому от нас», — говорит Хинтон, которого часто называют «крестным отцом искусственного интеллекта», и на которого ссылался Маск для его оценки рисков технологии. «И очень мало примеров, когда более разумная вещь контролируется менее разумной».

Читайте главные IT-новости страны в нашем Telegram
Читайте главные IT-новости страны в нашем Telegram
По теме
Читайте главные IT-новости страны в нашем Telegram
Компания Илона Маска Neuralink показала первого пациента с мозговым имплантатом, управляющим компьютером силой мысли (видео)
Компания Илона Маска Neuralink показала первого пациента с мозговым имплантатом, управляющим компьютером силой мысли (видео)
По теме
Компания Илона Маска Neuralink показала первого пациента с мозговым имплантатом, управляющим компьютером силой мысли (видео)
Компания Илона Маска xAI выложила в открытый доступ базовый код ШИ-модели Grok, но без учебного кода.
Компания Илона Маска xAI выложила в открытый доступ базовый код ШИ-модели Grok, но без учебного кода
По теме
Компания Илона Маска xAI выложила в открытый доступ базовый код ШИ-модели Grok, но без учебного кода
Компания Илона Маска строит спутниковую сеть для спецслужб США. В чем особенность Starshield и отличие от Starlink
Компания Илона Маска строит спутниковую сеть для спецслужб США. В чем особенность Starshield и отличие от Starlink
По теме
Компания Илона Маска строит спутниковую сеть для спецслужб США. В чем особенность Starshield и отличие от Starlink
УЧАСТЬ В АЗАРТНИХ ІГРАХ МОЖЕ ВИКЛИКАТИ ІГРОВУ ЗАЛЕЖНІСТЬ. ДОТРИМУЙТЕСЯ ПРАВИЛ (ПРИНЦИПІВ) ВІДПОВІДАЛЬНОЇ ГРИ.
Ліцензія видана ТОВ "СЛОТС Ю.ЕЙ." на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 15.09.23 (рішення КРАІЛ №245 від 31.08.2023); ТОВ "СЛОТС Ю.ЕЙ." – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 26.04.2021 (рішення КРАІЛ №150 від 12.04.2021); ТОВ «СПЕЙСИКС» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 08.02.2021 (рішення КРАІЛ №34 від 02.02.2021); ТОВ «ГЕЙМДЕВ» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 16.02.2021 (рішення № 47 від 10.02.2021).
Читайте также
Искусственный интеллект DALL-E научился дорисовывать картины. Как это выглядит
Искусственный интеллект DALL-E научился дорисовывать картины. Как это выглядит
Искусственный интеллект DALL-E научился дорисовывать картины. Как это выглядит
«В США тестировщик может получать $100 000 и даже $500 000 в год». История релокейта днепровского IT-семейства, где муж работает в EPAM, а жена устроилась в Tesla
«В США тестировщик может получать $100 000 и даже $500 000 в год». История релокейта днепровского IT-семейства, где муж работает в EPAM, а жена устроилась в Tesla
«В США тестировщик может получать $100 000 и даже $500 000 в год». История релокейта днепровского IT-семейства, где муж работает в EPAM, а жена устроилась в Tesla
Марк и Виктория Терещенко — IT-супруги. Он работает на позиции Lead Test Automation Engineer в компании EPAM, она — Software QA Engineer в Tesla. В августе 2021 года пара вместе с 1-летним сыном совершила релокейт в США по L визе. Мы связались с украинской семьей и поговорили о сложностях переезда, зарплате в Америке и специфике работы в компании Илона Маска.
Массовое вымирание на Земле. Илон Маск предупреждает о «конце света» — «это только вопрос времени»
Массовое вымирание на Земле. Илон Маск предупреждает о «конце света» — «это только вопрос времени»
Массовое вымирание на Земле. Илон Маск предупреждает о «конце света» — «это только вопрос времени»
«Жизнь — это больше, чем просто решение одной проблемы за другой». Илон Маск написал колонку в китайском медиа. Какие планы техногения на ближайшее будущее?
«Жизнь — это больше, чем просто решение одной проблемы за другой». Илон Маск написал колонку в китайском медиа. Какие планы техногения на ближайшее будущее?
«Жизнь — это больше, чем просто решение одной проблемы за другой». Илон Маск написал колонку в китайском медиа. Какие планы техногения на ближайшее будущее?
Бизнесмен Илон Маск написал колонку об устойчивой энергетике, мозговых имплантах и исследованиях космоса в китайском издании, принадлежащем национальному агентству по контролю за интернетом и цензурой. На английский текст перевел журналист китайского госиздания «Синьхуа» Янь Лю. Мы адаптировали сообщение.
1 комментарий

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментариев пока нет.