Илон Маск почти уверен, что искусственный интеллект стоит риска, даже если существует вероятность 1 из 5, что технология обернется против людей. Миллиардер также поделился своим мнением о том, как защитить человечество от ИИ.
Илон Маск почти уверен, что искусственный интеллект стоит риска, даже если существует вероятность 1 из 5, что технология обернется против людей. Миллиардер также поделился своим мнением о том, как защитить человечество от ИИ.
«Я думаю, что есть определенная вероятность того, что ИИ положит конец человечеству. Я, наверное, согласен с Джеффом Хинтоном, что это около 10% или 20% или что-то в этом роде», — таким мнением поделился миллиардер во время выступления на семинаре Great AI Debate на Abundance Summit, пишет Business Insider. Но он добавил: «Я думаю, что вероятный положительный сценарий перевешивает негативный».
В ноябре прошлого года Маск заявлял, что существует не нулевая вероятность того, что технология может испортиться, но не зашел так далеко, чтобы сказать, что технология может стать концом человечества.
В этом году, на Abundance Summit, Маск оценил, что к 2030 году цифровой интеллект превзойдет весь человеческий вместе взятый. Хотя он утверждает, что потенциальные положительные стороны преобладают отрицательные, Маск признал риск для мира, если искусственный интеллект продолжит развиваться таким образом, как это происходит сейчас.
«Вы вроде бы выращиваете ИИ. Это почти как воспитывать ребенка, но такого, похожего на супергения, как богоподобного умного ребенка — и важно, как вы его воспитываете», — сказал Маск. «Одна из вещей, которая, на мой взгляд, невероятно важна для безопасности искусственного интеллекта, — это иметь максимально любознательного и правдивого ИИ».
Маск сказал, что его «окончательный вывод» о наилучшем способе достижения безопасности ИИ состоит в том, чтобы развивать ИИ таким образом, чтобы он был правдив.
«Не заставляйте его врать, даже если правда неприятная», — сказал Маск о самом лучшем способе оградить людей от технологий. «Это очень важно. Не заставляйте ИИ врать».
Исследователи обнаружили, что как только ИИ научится врать людям, это обманчивое поведение будет невозможно изменить с помощью современных мер безопасности ИИ.
«Если модель будет демонстрировать обманчивое поведение из-за ошибочного инструментального выравнивания или отравления модели, современные методы обучения безопасности не будут гарантировать безопасность и даже могут создать ошибочное впечатление безопасности», — говорится в исследовании.
По мнению исследователей, больше тревоги вызывает то, что по всей вероятности, что искусственный интеллект может научиться вводить в заблуждение сам по себе, а не быть специально обученным врать.
«Если он станет намного умнее нас, он будет очень искусным в манипуляциях, потому что научится этому от нас», — говорит Хинтон, которого часто называют «крестным отцом искусственного интеллекта», и на которого ссылался Маск для его оценки рисков технологии. «И очень мало примеров, когда более разумная вещь контролируется менее разумной».
