Главный научный сотрудник компании Meta Ян Лекун заявил, что сверхумный искусственный интеллект вряд ли уничтожит человечество. Он считает, что нынешние модели ИИ не умнее котов.
Такое мнение Лекун выразил в ответ на публичное заявление, подписанное руководителями ИИ-компаний в мае, в котором говорится, что суперинтеллектуальный ИИ может составлять «риск вымирания».
Главный научный сотрудник компании Meta Ян Лекун заявил, что сверхумный искусственный интеллект вряд ли уничтожит человечество. Он считает, что нынешние модели ИИ не умнее котов.
Такое мнение Лекун выразил в ответ на публичное заявление, подписанное руководителями ИИ-компаний в мае, в котором говорится, что суперинтеллектуальный ИИ может составлять «риск вымирания».
Опасения, что искусственный интеллект может уничтожить человечество «абсурдны» и основаны больше на научной фантастике, чем на реальности, заявил главный ученый по искусственному интеллекту компании Meta. Об этом пишет Insider.
К мнению, что суперинтеллектуальный ИИ представляет угрозу для человечества, общество приучили популярные научно-фантастические фильмы, такие как «Терминатор, тогда как на самом деле нет никаких причин, почему умные машины пытались бы конкурировать с людьми, считает он.
«Интеллект не имеет ничего общего с желанием доминировать. Это даже не касается людей. Если бы то, что самые умные люди хотели доминировать над другими, было бы правдой, Альберт Эйнштейн и другие ученые были бы богатыми и могущественными, а они не были ни теми, ни другими», — сказал Ян Лекун.
Стремительная популярность инструментов генеративного искусственного интеллекта, таких как ChatGPT, за последний год вызвала опасения потенциальных будущих рисков суперинтеллектуального искусственного интеллекта.
В мае генеральный директор OpenAI Сэм Альтман, генеральный директор DeepMind Демис Хассабис и генеральный директор Anthropic Дарио Амодей подписали публичное заявление, в котором предупредили, что в будущем ИИ может представлять риск «вымирания», сравнимый с ядерной войной.
Сейчас ведутся ожесточенные дебаты о том, насколько близки современные модели к этому гипотетическому «искусственному общему интеллекту». Исследование, проведенное Microsoft в начале этого года, показало, что модель OpenAI GPT-4 демонстрирует «искры ИИ» в том, как она подходила к проблемам рассуждения человеческим способом.
Однако Лекун считает, что многие компании, занимающиеся разработкой ИИ, постоянно были «чрезмерно оптимистичными» относительно того, насколько близки к ИИ современные генеративные модели, и что в результате страхи вымирания из-за ИИ оказались преувеличенными.
«Они [модели] просто не понимают, как устроен мир. Они не в состоянии планировать. Они не способны на реальные соображения. Дебаты об экзистенциальном риске очень преждевременны, пока мы не разработаем систему, которая по способности к обучению не будет уступать даже кошке, чего у нас нет»», — сказал он.
Ян Лекун говорит, что достижение интеллекта человеческого уровня требует «нескольких концептуальных прорывов» — и предполагает, что системы ИИ, вероятно, не будут представлять никакой угрозы, даже если они достигнут этого уровня, поскольку они могут быть закодированы «нравственным характером», который не позволит им выйти из-под контроля.
