💳 Потрібна європейська картка з лімітом 50к євро? Встановлюй Trustee Plus 👉
Наталя ХандусенкоШІ (ai)
2 апреля 2024, 16:38
2024-04-02
«Это почти как воспитывать ребенка, но похожее на супергения — и важно, как вы его воспитываете». Вероятность, что ИИ уничтожит человечество, составляет 20%
Илон Маск почти уверен, что искусственный интеллект стоит риска, даже если существует вероятность 1 из 5, что технология обернется против людей. Миллиардер также поделился своим мнением о том, как защитить человечество от ИИ.
Илон Маск почти уверен, что искусственный интеллект стоит риска, даже если существует вероятность 1 из 5, что технология обернется против людей. Миллиардер также поделился своим мнением о том, как защитить человечество от ИИ.
«Я думаю, что есть определенная вероятность того, что ИИ положит конец человечеству. Я, наверное, согласен с Джеффом Хинтоном, что это около 10% или 20% или что-то в этом роде», — таким мнением поделился миллиардер во время выступления на семинаре Great AI Debate на Abundance Summit, пишет Business Insider. Но он добавил: «Я думаю, что вероятный положительный сценарий перевешивает негативный».
В ноябре прошлого года Маск заявлял, что существует не нулевая вероятность того, что технология может испортиться, но не зашел так далеко, чтобы сказать, что технология может стать концом человечества.
В этом году, на Abundance Summit, Маск оценил, что к 2030 году цифровой интеллект превзойдет весь человеческий вместе взятый. Хотя он утверждает, что потенциальные положительные стороны преобладают отрицательные, Маск признал риск для мира, если искусственный интеллект продолжит развиваться таким образом, как это происходит сейчас.
«Вы вроде бы выращиваете ИИ. Это почти как воспитывать ребенка, но такого, похожего на супергения, как богоподобного умного ребенка — и важно, как вы его воспитываете», — сказал Маск. «Одна из вещей, которая, на мой взгляд, невероятно важна для безопасности искусственного интеллекта, — это иметь максимально любознательного и правдивого ИИ».
Маск сказал, что его «окончательный вывод» о наилучшем способе достижения безопасности ИИ состоит в том, чтобы развивать ИИ таким образом, чтобы он был правдив.
«Не заставляйте его врать, даже если правда неприятная», — сказал Маск о самом лучшем способе оградить людей от технологий. «Это очень важно. Не заставляйте ИИ врать».
Исследователи обнаружили, что как только ИИ научится врать людям, это обманчивое поведение будет невозможно изменить с помощью современных мер безопасности ИИ.
«Если модель будет демонстрировать обманчивое поведение из-за ошибочного инструментального выравнивания или отравления модели, современные методы обучения безопасности не будут гарантировать безопасность и даже могут создать ошибочное впечатление безопасности», — говорится в исследовании.
По мнению исследователей, больше тревоги вызывает то, что по всей вероятности, что искусственный интеллект может научиться вводить в заблуждение сам по себе, а не быть специально обученным врать.
«Если он станет намного умнее нас, он будет очень искусным в манипуляциях, потому что научится этому от нас», — говорит Хинтон, которого часто называют «крестным отцом искусственного интеллекта», и на которого ссылался Маск для его оценки рисков технологии. «И очень мало примеров, когда более разумная вещь контролируется менее разумной».
«В США тестировщик может получать $100 000 и даже $500 000 в год». История релокейта днепровского IT-семейства, где муж работает в EPAM, а жена устроилась в Tesla
Марк и Виктория Терещенко — IT-супруги. Он работает на позиции Lead Test Automation Engineer в компании EPAM, она — Software QA Engineer в Tesla. В августе 2021 года пара вместе с 1-летним сыном совершила релокейт в США по L визе. Мы связались с украинской семьей и поговорили о сложностях переезда, зарплате в Америке и специфике работы в компании Илона Маска.
«Жизнь — это больше, чем просто решение одной проблемы за другой». Илон Маск написал колонку в китайском медиа. Какие планы техногения на ближайшее будущее?
Бизнесмен Илон Маск написал колонку об устойчивой энергетике, мозговых имплантах и исследованиях космоса в китайском издании, принадлежащем национальному агентству по контролю за интернетом и цензурой. На английский текст перевел журналист китайского госиздания «Синьхуа» Янь Лю. Мы адаптировали сообщение.