Риски искусственного интеллекта реальны, но ими можно управлять. 5 выводов Билла Гейтса о захватывающей мир прорывной инновации

Есть веские основания полагать, что мы можем с ними справиться: Это не первый случай, когда большая инновация приводит к появлению новых угроз, которые необходимо контролировать. Мы делали это и раньше.

То ли появление автомобилей, то ли появление персональных компьютеров и Интернета люди переживали другие трансформационные моменты и, несмотря на турбулентность, в итоге исходили из них в лучшем положении. Вскоре после того, как первые автомобили появились на дорогах, произошла первая автомобильная авария. Но мы не запретили автомобили — мы установили ограничения скорости, стандарты безопасности, требования к лицензированию, законы о вождении в нетрезвом состоянии и другие правила дорожного движения.

Сейчас мы находимся на ранней стадии еще одной глубокой смены — эпохи искусственного интеллекта. Это похоже на неопределенные времена перед введением ограничений скорости и ремней безопасности. ИИ меняется так быстро, что непонятно, что именно произойдет дальше. Мы не знаем, как работает нынешняя технология, как люди будут использовать ее с плохими намерениями, и как ИИ сменит нас как общество и как личностей.

Из всего, что уже написано о рисках ИИ, а написано очень много, ясно одно: никто не знает всех ответов. Другое дело, которое мне поняло, это то, что будущее ИИ не такое мрачное, как думают некоторые люди, и не такое радужное, как думают другие. Риски реальны, но я оптимистично сконфигурирован, что ими можно управлять. Рассматривая каждую проблему, я вернусь к нескольким темам.

Многие проблемы, вызванные ИИ, имеют исторический прецедент. К примеру, он будет иметь большое влияние на образование, как и ручные калькуляторы несколько десятилетий назад, или недавнее разрешение на использование компьютеров в классе. Мы можем учиться тому, что работало в прошлом.

Многие проблемы, вызванные ИИ, также можно решить с помощью ИИ.
Нам нужно будет адаптировать старые законы и принять новые — так же, как существующие законы против мошенничества пришлось адаптировать к онлайн-миру.

Я не рассматриваю, что произойдет, когда мы разработаем искусственный интеллект, способный изучить какой-либо предмет или задачу, в отличие от сегодняшних искусственных интеллектов, созданных специально для этого.

Независимо от того, достигнем ли мы этой точки через десятилетие или столетие, обществу придется считаться с глубокими вопросами. Что если супер ИИ установит свои собственные цели? Что, если они будут противоречить целям человечества? Стоит ли вообще создавать супер ИИ?

Вот наиболее насущные вызовы, связанные с ИИ.

Фейки и дезинформация

Идея о том, что технологии можно использовать для распространения лжи и лжи, не нова. Люди делали это с помощью книг и листовок на протяжении веков. С появлением текстовых процессоров, лазерных принтеров, электронной почты и социальных сетей это стало гораздо проще.

Искусственный интеллект берет проблему фальшивого текста и расширяет ее, позволяя практически любому создавать фальшивые аудио и видео, известные как глубокие фейки. Если вы получите голосовое сообщение, похожее на голос вашего ребенка: «Меня похитили, пожалуйста, отправьте $1000 на этот банковский счет в течение следующих 10 минут и не звоните в полицию», это будет иметь ужасное эмоциональное воздействие, гораздо сильнее, чем электронное письмо, в которому идет речь о том же.

В более широком масштабе сгенерированные искусственным интеллектом глубокие фейки могут использоваться для попыток повлиять на результаты выборов. Конечно, чтобы посеять сомнения по поводу законного победителя выборов, не нужны сложные технологии, но искусственный интеллект сделает это проще.

Уже есть фальшивые видео, содержащие сфабрикованные кадры с известными политиками. Представьте, что утром в день больших выборов видео, на котором один из кандидатов грабит банк, становится вирусным. Оно ненастоящее, но новостные СМИ и кампания тратят несколько часов, чтобы доказать это. Сколько человек увидят это видео и изменят свой голос в последнюю минуту? Это может предотвратить чашу весов.

Когда соучредитель OpenAI Сэм Альтман недавно выступал перед комитетом Сената США, сенаторы из обеих партий сосредоточились на влиянии ИИ на выборы и демократию. Я надеюсь, что эта тема продолжит занимать важное место в повестке дня.

Мы, безусловно, не решили проблему дезинформации и фейков. Но две вещи заставляют меня быть аккуратным оптимистом. Во-первых, это то, что люди способны научиться не воспринимать все чистую монету. В течение многих лет пользователи электронной почты попадали на мошеннические схемы, когда кто-то, выдавая себя за нигерийского принца, обещал большое вознаграждение в обмен на то, чтобы поделиться номером вашей кредитной карты. Но со временем большинство людей научилось проверять такие письма дважды. Поскольку мошенники становились все более изощренными, изменялись и их цели. Нам нужно будет нарастить такие же мускулы для борьбы с глубокими подделками.

Это будет циклический процесс: кто находит способ выявить фейк, кто выясняет, как ему противодействовать, кто разрабатывает контрмеры и так далее. Это не будет идеальным успехом, но и беспомощными мы не будем.

Кибербезопасность

Искусственный интеллект облегчает атаки на людей и правительства.
Сегодня, когда хакеры хотят найти уязвимые места в программном обеспечении, которые можно использовать, они делают это путем грубого перебора кода, бьющего по потенциальным слабым местам, пока не найдут способ проникнуть внутрь. Это предполагает прохождение многих тупиков, а это означает, что нужно время и терпение.

Эксперты по безопасности, которые хотят противостоять хакерам, должны делать то же самое. Каждый патч для программного обеспечения, который вы устанавливаете на свой телефон или ноутбук, это много часов поиска людьми как с хорошими, так и с плохими намерениями.

Модели искусственного интеллекта ускорят этот процесс, помогая хакерам писать более эффективный код. Они также смогут использовать публичную информацию о людях, например где они работают и кто их друзья, для разработки фишинговых атак, которые будут более совершенными, чем те, которые мы видим сегодня.

Хорошая новость состоит в том, что ИИ можно использовать как в хороших, так и в плохих целях. Правительственные и частные команды безопасности должны иметь новые инструменты для поиска и исправления недостатков безопасности, прежде чем преступники смогут ими воспользоваться.

Вот почему мы также не должны пытаться временно удержать людей от внедрения новых разработок в сфере ИИ, как некоторые предлагают. Киберпреступники не перестанут создавать новые инструменты. Так же как и люди, желающие использовать ИИ для разработки ядерного оружия и биологических атак. Усилия, направленные на то, чтобы остановить их, должны продолжаться в том же темпе.

На глобальном уровне существует связанный с этим риск: гонка вооружений за ИИ, которая может быть использована для разработки и запуска кибератак против других стран. Каждое правительство хочет иметь мощную технологию, чтобы сдерживать атаки своих противников. Этот стимул не дать никому опередить себя может спровоцировать гонку по созданию все более опасного кибероружия. Всем будет хуже.

Это страшное мнение, но у нас есть история, которая направляет нас. Хотя мировой режим ядерного нераспространения имеет свои недостатки, он предотвратил тотальную ядерную войну, которой так боялось мое поколение, когда мы росли. Правительства должны рассмотреть возможность создания глобального органа по вопросам ИИ, подобного Международному агентству по атомной энергии.

ИИ заберет у людей работу

В ближайшие несколько лет основное влияние ИИ на работу будет состоять в том, что он поможет людям выполнять свою работу более эффективно. Это будет справедливо независимо от того, работают они на заводе или в офисе, обрабатывая торговые звонки и кредиторскую задолженность. В конце концов, ИИ будет настолько хорошо выражать идеи, что сможет писать ваши электронные письма и управлять вашим почтовым ящиком за вас. Вы сможете написать запрос простым английским или любым другим языком и создать содержательную презентацию своей работы.

Как я утверждал в своем февральском сообщении, для общества хорошо, когда производительность растет. Это дает людям больше времени на другие дела, как на работе, так и дома. И спрос на людей, которые помогают другим — например, преподают, ухаживают за пациентами и поддерживают пожилых людей — никогда не исчезнет. Но это правда, что некоторые работники будут нуждаться в поддержке и переквалификации, поскольку мы осуществляем переход к рабочим местам, оснащенным искусственным интеллектом. Это роль правительств и бизнеса, и им нужно будет хорошо ею руководить, чтобы работники не остались без работы — чтобы избежать таких нарушений в жизни людей, произошедших во время упадка производственных рабочих мест в Соединенных Штатах.

Кроме того, не стоит забывать, что это не первый случай, когда новая технология влечет за собой значительные изменения на рынке труда.

Текстовые редакторы не покончили с офисной работой, но сменили ее навсегда. Работодатели и работники должны были адаптироваться, и они это сделали. Изменение, вызванное ИИ, будет неравным переходом, но есть все основания полагать, что мы сможем снизить разрушительное влияние на жизнь людей и их средства к существованию.

ИИ наследует наши предубеждения и придумывает вещи

Галлюцинации — термин для обозначения того, что ИИ уверенно делает какое-то утверждение, просто не соответствующее действительности, — обычно случаются из-за того, что машина не понимает контекста вашего запроса. Попросите ИИ написать краткую историю об отпуске на Луне, и он может дать вам очень вычурный ответ. Но попросите его помочь вам спланировать поездку в Танзанию, и он может попытаться отправить вас в гостиницу, которой не существует.

Другой риск, связанный с искусственным интеллектом, заключается в том, что он отражает или даже усугубляет существующие предубеждения относительно людей определенной гендерной идентичности, расы, этнической принадлежности и так далее.

Они сканируют огромные объемы текста — в некоторых случаях почти все доступное в Интернете — и анализируют его, чтобы найти закономерности в человеческом языке.

Когда вы задаете вопросы искусственному интеллекту, он смотрит на слова, которые вы использовали, а затем ищет фрагменты текста, которые часто ассоциируются с этими словами. Если вы пишете «перечислить ингредиенты для блинов», он может заметить, что слова «мука, сахар, соль, разрыхлитель, молоко и яйца» часто появляются вместе с этой фразой. Тогда, основываясь на том, что он знает порядок, в котором эти слова обычно появляются, он генерирует ответ. (Модели искусственного интеллекта, работающие таким образом, используют так называемый трансформатор. GPT-4 — одна из таких моделей).

Этот процесс объясняет, почему ИИ может ощущать галлюцинации или казаться пристрастным. У него нет контекста для вопросов, которые вы задаете, или вещей, которые вы ему рассказываете. Если вы скажете ему, что он совершил ошибку, он может ответить: «Извините, я напечатал это неправильно». Но это галлюцинация — она ничего не печатала. Он так говорит только потому, что отсканировал достаточно текста, чтобы знать, что «Извините, я ошибся» — это предложение, которое люди часто пишут после того, как кто-нибудь их исправляет.

Так же модели ИИ наследуют любые предубеждения, заложенные в тексте, на котором они учатся. Если человек много читает, скажем, о врачах, и в тексте в большинстве своем упоминаются врачи-мужчины, то в своих ответах он будет предполагать, что большинство врачей — мужчины.

Над проблемой предвзятости работают и другие организации, в частности Институт Алана Тюринга и Национальный институт стандартов и технологий. Один из подходов состоит в том, чтобы встроить в ИИ человеческие ценности и соображения высшего уровня. Это аналогично тому, как работает осознающий себя человек. Возможно, вы считаете, что большинство врачей — мужчины, но вы достаточно осознаете это предположение, чтобы понимать, что вам нужно намеренно бороться с ним. ИИ может действовать подобным образом, особенно если модели разрабатываются людьми с разным опытом.

Наконец, каждый, кто использует ИИ, должен осознавать проблему предвзятости и быть информированным пользователем. Эссе, которое вы попросите ИИ написать, может быть пронизано как предубеждениями, так и фактическими ошибками. Вам нужно проверить пристрастность вашего ИИ, а также свою собственную.

Ученики не будут учиться писать, потому что ИИ будет делать эту работу за них

Многие преподаватели обеспокоены тем, как ИИ может помешать их работе со студентами. В то время, когда кто-либо с доступом к Интернету может использовать ИИ для написания приличного первого наброска эссе, что помешает учащимся сдавать его как собственную работу?

Уже есть инструменты искусственного интеллекта, которые учатся определять, было ли что-то написано человеком или компьютером, поэтому учителя могут определить, когда их ученики не выполняют свою работу. Но некоторые учителя не пытаются запретить своим ученикам использовать искусственный интеллект в письменной работе, они даже поощряют это.

В январе учительница английского со стажем Шери Шилдс написала статью в Education Week о том, как она использует ChatGPT в своем классе. Он помогает ее ученикам во всем — от начала работы над эссе до написания конспектов и даже предоставления обратной связи по их работе.

Не каждый учитель имеет время на изучение и использование нового инструмента, но такие педагоги, как Шери Шилдс, убеждают, что имеющие время получат много пользы.

Это напоминает мне времена, когда электронные калькуляторы получили широкое распространение в 1970-х и 1980-х годах. Некоторые учителя математики волновались, что учащиеся перестанут учиться выполнять базовые арифметические действия, но другие приняли новую технологию и сосредоточились на мыслительных навыках, стоящих за арифметикой.

Есть еще один способ, как искусственный интеллект может помочь с письмом и критическим мышлением. Особенно на начальном этапе, когда галлюцинации и предубеждения все еще являются проблемой, педагоги могут поручить ИИ генерировать статьи, а затем работать со своими учениками над проверкой фактов. Образовательные некоммерческие организации, такие как Khan Academy и OER Project, которые я финансирую, предлагают учителям и учащимся бесплатные онлайн-инструменты, делающие большой акцент на проверке утверждений. Немногие навыки более важны, чем умение отличать правду от лжи.

Нам следует убедиться, что образовательное программное обеспечение помогает преодолеть разрыв в учебных достижениях, а не ухудшает их. Современное программное обеспечение в большинстве своем ориентировано на расширение возможностей учащихся, уже имеющих мотивацию. Оно может разработать вам учебный план, указать вам на хорошие ресурсы и проверить ваши знания. Но оно еще не знает, как вовлечь вас в интересующий вас предмет. Это проблема, которую разработчикам придется решить, чтобы студенты всех типов могли воспользоваться преимуществами искусственного интеллекта.

Что будет дальше?

Я считаю, что есть больше причин для оптимизма, чем для недоверия, что мы сможем управлять рисками ИИ, максимизируя его преимущества. Но нам нужно двигаться быстро.

Правительствам необходимо накапливать опыт в сфере искусственного интеллекта, чтобы они могли создавать обоснованные законы и правила, отвечающие этой новой технологии. Им придется бороться с дезинформацией и фейками, угрозами безопасности, изменениями на рынке труда и влиянием на образование. Приведем лишь один пример: Закон должен четко определять, какие виды использования «глубоких фейков» законны, и как их следует маркировать, чтобы каждый понимал, когда-то, что он видит или слышит, не подлинно.

В частном секторе компании, занимающиеся разработкой ИИ, должны выполнять свою работу безопасно и ответственно. Это включает в себя защиту частной жизни людей, обеспечение того, чтобы их модели ИИ отражали основные человеческие ценности, минимизацию предвзятости, распространение преимуществ среди как можно большего количества людей и предотвращение использования технологии преступниками или террористами. Компаниям во многих секторах экономики нужно будет помочь своим работникам перейти на рабочее место, ориентированное на ИИ, чтобы никто не остался позади. А клиенты всегда должны знать, когда они взаимодействуют с искусственным интеллектом, а не с человеком.

В заключение, я призываю всех следить за развитием искусственного интеллекта как можно больше. Это наиболее трансформационная инновация, которую кто-либо из нас увидит в своей жизни, и здоровая общественная дискуссия будет зависеть от того, будут ли все осведомлены о технологии, ее преимуществах и рисках. Преимущества будут огромными, а лучшая причина полагать, что мы можем управлять рисками, заключается в том, что мы уже делали это раньше.

Топ-20 курсов и сертификаций, которые помогут овладеть искусственным интеллектом

По теме

Топ-20 курсов и сертификаций, которые помогут овладеть искусственным интеллектом

Искусственный интеллект определил, сколько весит лидер Северной Кореи Ким Чен Ин

По теме

Искусственный интеллект определил, сколько весит лидер Северной Кореи Ким Чен Ин

Читайте главные IT-новости страны в нашем Telegram

По теме

Читайте главные IT-новости страны в нашем Telegram