С развитием технологий, с появлением искусственного интеллекта, человечество впервые изобрело то, что забирает у нас власть, отмечает израильский футуролог и автор Sapiens Юваль Ной Харари.
С развитием технологий, с появлением искусственного интеллекта, человечество впервые изобрело то, что забирает у нас власть, отмечает израильский футуролог и автор Sapiens Юваль Ной Харари.
Истории всегда были жизненно важны для израильского историка Юваля Ной Харари, сообщает The Telegraph. Ниже — адаптированный перевод текста.
Уникальная способность нашего вида быть связанными и объединяться неосязаемыми рассказами, даже через океаны, была центральной для Sapiens, удивительно популярной хроники подъема нашего вида, которая катапультировала его к статусу провидца после публикации на английском почти десять лет назад.
Возможно, именно поэтому он сегодня так глубоко озабочен появлением претендента на наше мастерство повествования историй — искусственного интеллекта.
«Это первая в истории технология для создания историй», — отмечает 47-летний Харари.
Для него ничто не может быть большей демонстрацией силы. Поскольку, по его мнению, наша коллективная вера в «истории» — о вере, финансах и нации среди прочего — способствовала доминированию человечества на Земле. Например, деньги позволили нам процветать, но какая цена пятерки в вашем кармане, если владелец магазина отбрасывает ее как бумажку?
Теперь искусственный интеллект также может плести такие заклинания, показывая, что потенциал технологии как для большой пользы, так и для вреда, ранее считавшегося далеким и теоретическим, теперь немедленный и реальный.
Именно поэтому Харари добавил свое имя в письмо прошлого месяца, подписанное тысячами экспертов, в том числе Илона Маска, с призывом к мораторию на исследование программного обеспечения, такого как Chat GPT, модели искусственного интеллекта, которая может взаимодействовать с людьми в творческом тексте с почти тревожными нюансами.
Другие приложения могут делать то же самое с изображениями и звуками.
«Новое поколение искусственного интеллекта не просто распространяет контент, созданный людьми. Он может создавать контент сам», — говорит Харари. — Попытайтесь представить, что значит жить в мире, где большинство текстов и мелодий, а затем сериалов и изображений созданы бесчеловечным интеллектом. Мы просто не понимаем, что это значит. Какие могут быть последствия того, что ИИ увлечет культуру?»
Тривиальные примеры уже есть. На прошлой неделе немецкий журнал был подвергнут критике за публикацию того, что казалось эксклюзивным интервью с Михаэлем Шумахером, хотя на самом деле текст был создан ИИ, имитируя парализованного бывшего гонщика.
Харари предполагает, что искусственный интеллект скоро пойдет гораздо дальше, создавая мир, в котором «вы заходите в Интернет и спорите с кем-то о каком-либо политическом вопросе. Возможно, они даже пришлют вам видео, на котором они разговаривают. Но за этим не стоит ни один человек. Это все искусственный интеллект».
Также в его антиутопии синтетическая цифровая подделка не будет любого человека. Поскольку на нас уникальное влияние близких людей может показаться, что ваш друг или родственник пытается убедить вас в достоинствах продукта или своей позиции относительно изменения климата, вакцин или иммиграции. По его словам, это было бы властью манипулировать публичным дискурсом, которого раньше не было, и это сделало бы тривиальными скандалы по поводу влияния социальных медиа за последние 10 лет, которые уже, как считается, сыграли роль в выборах от Бразилии в Америку. Джереми Флеминг, глава GCHQ, предупредил кабинет министров, что дезинформация искусственного интеллекта представляет серьезную угрозу.
Харари говорит, что мы должны регулировать технологию для того, чтобы принимать правильные решения.
«Это особенно угроза для демократий, чем для авторитарных режимов, потому что демократии полагаются на публичную дискуссию», — говорит Харари. — Демократия — это в основном разговор. Люди разговаривают друг с другом. Если разговор берет на себя ИИ, демократии конец».
Но какой эффект может иметь эта технология, если ее злонамеренно запустить на поле боя тоталитарными режимами? К примеру, одна система искусственного интеллекта Google сама научила бенгальский язык, не пройдя этого обучения.
«Нацистский режим базировался на таких технологиях как поезда, электричество и радио. У них не было таких инструментов как искусственный интеллект», — говорит Харари. — Новый режим в 21 веке будет иметь гораздо более мощные инструменты. Поэтому последствия могут быть гораздо более катастрофическими. Это то, что я не знаю, сможет ли человечество выжить».
Даже более банальные последствия могут быть революционными, говорит он. «Другая опасность заключается в том, что многие могут полностью остаться без работы, не только временно, но и без основных навыков для будущего рынка труда. Мы можем достичь точки, когда экономическая система сочтет миллионы людей абсолютно бесполезными. Это имеет ужасающие психологические и политические последствия».
Именно автономия ИИ делает его таким отличным. Однако даже Харари, сделавший себе имя благодаря сложным темам, кажется, разочарован своей неспособностью заставить всех нас понять это так же глубоко, как он.
Мы должны понимать, что искусственный интеллект является первой технологией в истории, которая может самостоятельно принимать решения. Он может принимать решение о собственном использовании. Он также может принимать решения относительно вас и меня. Это не прогноз на будущее. Это уже происходит», — отмечает футуролог.
Он вспоминает случаи, когда программное обеспечение искусственного интеллекта использовалось для проверки заявителей на кредит или для решения вопроса о досрочном освобождении заключенных. «Мы изобрели то, что отнимает у нас власть. И это происходит настолько быстро, что большинство людей даже не понимают, что происходит. Нам нужно убедиться, что ИИ принимает правильные решения по нашей жизни. Это то, что мы очень далеки от решения».
Как и другие, он теперь поддерживает регулирование для управления мощностью искусственного интеллекта, используя его перспективы и предотвращая катастрофу. По мнению Харари, подобные правила будут имитировать медицинские гарантии.
«Фарматическая компания не может выпустить на рынок новое лекарство, предварительно не пройдя длительный процесс регулирования. Это действительно странно и страшно, что корпорации могут просто выпустить мощнейшие инструменты искусственного интеллекта в публичную сферу без каких-либо аналогичных мер безопасности», — говорит он.
Он настаивает на том, что подобные меры должно осуществлять правительство. Ожидать, что технологическая индустрия сама себя будет регулировать, это для птиц. «При всем уважении к Илону Маску и Цукербергу или другим руководителям крупных технологических компаний, они никем не избраны, не представляют никого, кроме своих акционеров, и нет причин доверять им».
Как будто в подтверждение правдивости Харари, Маск объявил о создании собственного чат-бота с искусственным интеллектом через несколько дней после подписания письма, в котором осуждалось исследование других.
Возможно, неудивительно, что Харари держит свой собственный телефон выключенным, в ящике. Он называет его «смартфоном для экстренной помощи», когда он путешествует за границу, а это гораздо больше в последнее десятилетие, когда он стал мировой интеллектуальной суперзвездой.
«Некоторые вещи стало действительно невозможно делать без смартфона». Можно подумать о том, как он пытается заказать такси во время заграничной поездки, и терпит неудачу. Но то, что он не пропускает на своем карманном экране, так это отвлекающий поток льющейся в его мозг информации. Он заявляет об «информационной диете», — отмечает историк.
«Многовато ненужной информации, — говорит он. — Это как еда. Большую часть истории человечества мы отчаянно пытались получить больше еды. А сейчас мы в противоположной ситуации. Мы должны быть очень осторожными как по количеству, так и по качеству пищи, которую мы принимаем».
Он противопоставляет фокус и активный выбор, связанный с «чтением», этому пассивному «потреблению» информации с выпученными глазами. Трудно представить, чтобы Харари сделал что-нибудь таким бездумным способом. Он любит время и покой, чтобы собраться с мыслями, и давно увлекается медитацией, чтобы убедиться, что он умственно настроен на то, чтобы не отвлекаться. «Я только что вернулся из двухмесячного медитационного ретрита», — говорит он. «Можно сказать, что это часть информационной диеты… период, чтобы отсоединиться и позволить разуму очиститься от всего мусора, который мы принимаем».
