Члены Европарламента недавно приняли историческое решение, приняв первый в мире закон об искусственном интеллекте. Это значительный шаг в направлении регулирования технологий и, как объясняют разработчики, закон имеет цель обеспечения безопасности и защиты прав граждан.
Члены Европарламента недавно приняли историческое решение, приняв первый в мире закон об искусственном интеллекте. Это значительный шаг в направлении регулирования технологий и, как объясняют разработчики, закон имеет цель обеспечения безопасности и защиты прав граждан.
Айтовцы EPAM изучили документ и сделали выводы о том, как и на что он может повлиять для работы в IT.
Закон, принявший Европарламент, на мой взгляд, выглядит больше как ограничение, чем регулирование. Ибо для справедливого регулирования нужно привлекать экспертов из области, которые помогут разработать качественные программы и повлияют на содержание актов и нормативных документов.
Нынешнюю ситуацию сравнима с появлением электронной коммерции. Мы наблюдали бум покупок в интернете, и поначалу там было много разных возможностей для обмана людей. Затем ввели акты о персональных данных, запрещении хранения платежных данных, и уже сейчас процесс покупки товара обычно проходит безопасно. Такие же правила будут принять в отношении ИИ, чтобы обезопасить людей от негативных последствий, как, например, использование дипфейков для выманивания денег.
Персональные данные, за которые мы обычно переживаем, следует различать. Если они находятся в социальных сетях или резюме, выложенных в интернете, то уже публичны и ИИ может использовать их для обучения. То же самое можно сказать о биометрических данных — это записи с вебкамер, которые могут быть в публичном доступе. Я не вижу в этих примерах плохих последствий, потому что все публично уже не персонально. Если речь идет, например, о данных банковских счетов или карт, ИИ не может иметь к ним доступа, поскольку у банков есть серьезные стандарты безопасности.
Регулировать использование ИИ нужно, чтобы появились стандарты. Раньше у нас не было на государственном уровне отделов кибербезопасности, но потом поняли, что действиям преступников в интернете нужно противостоять. В ответ были основаны соответствующие департаменты. Так и с ИИ регулирование рано или поздно придет, но нужно это делать на глобальном уровне для балансировки рынка. Потому что если в ЕС будут более жесткие условия, а в США лояльные, на рынке произойдет перегиб. Кремниевая долина может стремительно развиваться и забрать рынок, а ЕС будет отставать. Если регуляторы будут закручивать гайки, то самый французский ИИ-стартап Mistral AI будет вынужден прекратить свое развитие или мигрировать на другой рынок, что нанесет вред экономике. В Азии еще сложнее. В Китае не разрешают гражданам использовать популярные программы ИИ, но там уже разрабатывают свои приложения.
Если говорить о опасениях, что когда-то ИИ покорит человека, надо понимать, что искусственным интеллектом мы сейчас называем генеративную модель, не имеющую саморазвития. Она только генерирует контент по алгоритмам. Бояться здесь нечего. Даже если эта модель будет развиваться, она остается подконтрольной человеку.
Сейчас ограничения выглядят больше как опасения политических элит, что ИИ может перевернуть существующие стандарты, к которым консервативные законодатели не готовы. За кулисами идет борьба за рынок, потому что это очень перспективное направление во многих отраслях.
Мне кажется верным тот путь, который избрал ЕС. Мир двигается, и нужно иметь правила игры. Закон разделяет ИИ на четыре категории. Первые, которые имеют «минимальный риск», не будут регулироваться и иметь значительные ограничения, к ним будет относиться AI (используется в видео играх или спам-фильтрах).
Далее следуют системы с «лимитированным риском»: AI, создающая картинки, меняет голос и так далее. В данной категории приложений пользователей будут предупреждать о взаимодействии с искусственным интелктом. Следующий «АИ общего назначения», этот раздел будет включать в том же числе ChatGPT. Здесь все системы будут оцениваться и отвечать требованиям прозрачности, указанным в документе.
Наиболее законодательно урегулированными будут модели, относящиеся к высокому риску. К примеру, это использование AI в медицине или вождении авто. Эти системы перед выпуском будут тщательно проверять. Последний уровень — «недопустимая опасность», эти приложения будут запрещены для использования на территории ЕС. К ним попадут приложения по определению социального рейтинга, основанного на персональных характеристиках, биометрическая идентификация в режиме реального времени или любые приложения, манипулирующие человеческим поведением.
Многие вопросы относятся к нравственной составляющей применения ИИ. Хотели бы мы, чтобы, например, вовлеченность детей в учебу в школе определялась AI посредством распознавания их мимики, направленности взгляда? Эта технология сейчас работает в китайских школах. Я считаю, что это уже нарушение прав человека. С другой стороны, я неоднократно был свидетелем, как мой друг — преподаватель географии в одесском лицее, использует ИИ для интерактивных уроков, чтобы лучше объяснить материал, заинтересовать детей. Поэтому вся польза или вред, приносимый ИИ, это лишь вопрос подхода к его использованию. Именно урегулирование этого аспекта является лишь первой «ласточкой» в перечне подобных законодательных актов по всему миру.
