Украинцев беспокоит перспектива восстания машин. Какие возможности, угрозы и вызовы видят в развитии ИИ основатели и топы Ringostat, Harmix, Mantis Analytics и Gpttools.ai

Регулировка ИИ: кто от этого выигрывает и проигрывает?

Разработчики уже сейчас задумываются об опасности, которую может нести ИИ и о том, как ее предотвратить. Так, Open AI сформировали команду по изучению и смягчению «катастрофических рисков», связанных с искусственным интеллектом. В частности, команда должна рассматривать химические, биологические и радиологические угрозы. В Украине же была разработана дорожная карта законодательного регулирования искусственного интеллекта, которую планируют внедрять по меньшей мере до 2027 года.

Как показал опрос, 22% опрошенных украинцев действительно беспокоят угроза неконтролируемой деятельности, восстание машин и возможная агрессия в отношении человека. Согласно еще одному опросу, 34,1% респондентов выступают за ограничение и контроль, 32,4% не считают их нужными, 27,2% не определились.

Регулирование также может влиять на то, что мы не получаем результат, потому что разработчики урезают возможности. Если спросить ChatGPT на какую-то тему, которая вызывает у него подозрение, ему проще не ответить, чтобы никого «не обидеть». Хотя ваш вопрос может быть совершенно невиновным.

С другой стороны, оно и к лучшему, что вопросами регулирования ИИ занимаются уже сейчас. В отличие от регулирования интернет-пространства — когда GDPR и другие акты вводились уже постфактум и довольно больно.

Нельзя также недооценивать значение долгосрочного партнерства между Украиной и Европейским Союзом. Вступление в ЕС является стратегическим направлением развития Украины, поэтому мы должны сосредотачивать усилия на развитии взаимоотношений в разных областях, включая правовое регулирование искусственного интеллекта».

Трудно ли украинским решениям конкурировать с иностранными

По статистике, в мире почти 58 000 компаний, занимающихся ИИ, и 14 700 из них находятся в США. Среди них не только признанные гиганты, самостоятельно разработавшие решения, но и выпускающие сервисы на основе уже существующих ИИ. Также можно предположить, что развитие сферы было бы более оживленным, если бы не война. Но стоит ли украинцам из-за всех этих факторов выбирать иностранные аналоги?

Как оказывается, далеко не всегда — и не только по патриотическим соображениям.

Возьмем нашу компанию, Mantis Analytics. Мы специализируемся на анализе информационного пространства, менеджменте физических и информационных рисков.

Наши модели искусственного интеллекта прекрасно адаптированы к языковому контексту Украины и многим странам постсоветского ареала. Это позволяет нам создавать уникальные технологии, работающие с украинским, русским языком и таким явлением, как суржик. Большинство иностранных моделей просто «сыпятся», имея дело с тонкими нюансами, связанными с обработкой этой информации.

Другой момент — это тестирование наших технологий в реальном времени. Большинство компаний в мире не обстояло дело с ситуацией, когда твой клиент переживает десятки информационных атак еженедельно. Война поставила нам сложные вызовы, со многими из них мы справились — этого опыта нет у конкурентов.

У Украины есть шанс стать мировым центром экспертизы в области применения искусственного интеллекта в информационной сфере. Mantis Analytics со своей стороны делает для этого все возможное. Например, помогаем имплементировать и лучше применять ИИ-решения в Грузии и Молдове. Сотрудничаем с образовательными институтами и сообществом. В частности, вместе с AI HOUSE, мы провели хакатон Disinformation Detection Challenge, сфокусированный на ШИ-решениях для поиска потенциально вредной и ложной информации.

Все это дает основу для развития технологий, применяемых не только в Украине. Собственно, на этой идее построен кластер технологий безопасности Brave1, членом которого мы являемся».

Во-первых, наше решение включает в себя поиск по описанию трека, по истории в словах песни, по сходству звучания и видео — все это не предлагается вместе в других решениях: AIMS API и Cyanite. Во-вторых, Harmix предоставляет своим клиентам данные о поисковых запросах пользователей, что позволяет лучше адаптировать свои коллекции к этим конкретным потребностям. Также мы адаптируем свою технологию к потребностям пользователей. К примеру, после того, как несколько библиотек из Индии спросили о поиске на хинди и бенгали, мы сначала добавили эти языки, а затем решили расширить функционал и сейчас поддерживаем более 100 языков».

Приведу пример из нашей ниши — ИИ для работы с телефонными звонками. Есть мощный инструмент Assembly AI, который превращает язык в текст. Но с украинским или польским он работает достаточно ограниченно. Мы же у Ringostat имеем собственные наработки и языковые модели, хоть и на основе LLAMA от META. С ними украинский бизнес может при необходимости получить расшифровку звонка на родном языке, описание его краткого содержания, анализ соблюдения скрипта разговора, анализ в соответствии с потребностями конкретного бизнеса и советы по другим действиям».

На лезвии бритвы: нравственные угрозы при использовании ИИ

Когда речь идет об этических вопросах в контексте ИИ, обычно подразумевают, что он может:

• может собирать и использовать большие объемы данных о людях, что может представлять угрозу их приватности;
• такие данные могут использоваться для мошенничества — например, если ИИ создает персонализированные письма якобы знакомых, где просит отправить деньги или пароли;
• использоваться для создания deep fake и дезинформации;
• создать опасные или вредные технологии;
• может быть пристрастным против определенных групп людей, что может привести к дискриминации.

Насколько важны эти вопросы для украинских разработчиков?

Назар Поночевный, Founder и CEO Harmix отмечает, что этичные вопросы и авторские права действительно важны. «Необходимо развивать стандарты использования ИИ для предотвращения негативных последствий. Наши клиенты тоже серьезно к этому относятся, и мы работаем с лицензионными data-сетами (набор данных, используемых для обучения модели машинного обучения), самостоятельно размечаем данные, а также генерируем контролируемые синтетические data-сети», говорит он

Александр Максименюк, CVO и основатель Ringostat уверяют, что этические угрозы существовали и раньше. По его словам, просто к тому нужно больше ресурса и специальных знаний. «Так же можно было сделать deep fake, но с помощью компьютерной графики. ИИ только делает процесс более доступным, но не сочиняет с нуля», — говорит Максименюк.

Похожая история, по его мнению, с анализом больших объемов данных: «В частности, ИИ можно „кормить“ соцсети определенного человека, и он составит очень персонализированное письмо на их основе. Однако думаю, что в будущем на такую ​​ИИ-персонализацию уже не будут обращать внимание, как сейчас не обращают внимание на обычные письма „холодной“ рассылки. Если же говорить о рекламе, то что плохого в том, что ИИ лучше проанализирует ваши предпочтения? Это позволит предлагать вам нужные товары, а не то, что просто нужно распродать».

Максим Терещенко, Co-Founder & CEO Mantis Analytics, отмечает, что наша страна находится в состоянии крупнейшей со времен Второй мировой войны уже длительное время. Это, по его мнению, важно учитывать при рассмотрении нравственных аспектов, особенно когда речь идет о применении искусственного интеллекта.

«Обратим внимание на распространение дезинформации, в частности, сгенерированной с помощью ИИ, и применение этих инструментов для влияния на украинское население. Искусственный интеллект помогает нивелировать это влияние. Мы можем быстро находить, маркировать и противодействовать ему с помощью автоматизированных решений на базе ИИ», — говорит Терещенко.

Украинские бизнесы, уверен Терещенко, должны быть не только экспертами в технологиях, но и очень хорошо понимать область, где завершается дезинформация и начинается демократический обмен мнениями; где кончается сдерживание врага и модерация и начинается цензура.

«Во многом ответственность здесь не только на технологических предприятиях, но и на институтах гражданского общества, с которыми ИИ-компаниям следует вести постоянный диалог», — говорит он.

Сложности и вызовы для украинских ШИ-сервисов

Среди факторов, наиболее влияющих на сферу, можно назвать следующие:

• война и вызванный ею экономический кризис, отражается на инвестициях и спросе на платные инструменты;
• отток кадров — многие специалисты ушли на фронт, а кто-то переехал и устроился в иностранные компании;
• нехватка данных для обучения моделей на украинском языке.

Но разработчики видят в этом вызовы и возможность для роста.

К счастью, существуют акселерационные инициативы, такие как упомянутый Brave1, помогающие командам находить контакты, привлекать инвестиции и реализовывать продукты на основе новейших технологий. Украинский фонд стартапов много работает для репрезентации отечественных стартапов в мире.

Эти инвесторы не учитывают, что при переезде стоимость настолько увеличится, что стартапы станут просто не конкурентоспособными и исчезнут. Соответственно, украинским стартапам нужно сделать в десятки раз больше, чтобы привлечь внимание и доказать право на существование на мировом уровне».

При разработке на американский рынок существует множество общедоступных данных, на которых можно натренировать модели. Data-сетов на украинском языке либо нет, либо они некачественные и автоматически сгенерированные. Также мало моделей, обученных именно на телефонных разговорах, а это имеет значение, потому что ширина звукового диапазона здесь отличается от случая, когда звук записан на микрофон.

Еще проблема — удаление персональной информации из разговоров для обучения модели. У них ведь человек может говорить свое имя или адрес. Но если удалить такую ​​информацию, то ИИ просто не поймет, о чем идет речь, и не научится распознавать имена и адреса. Поэтому обучение искусственному интеллекту на украинском языке — это сейчас «задача со звездочкой»».

Это безопасность команды и данных пользователей, работа при перебоях связи, поиск инвестиций на развитие в условиях нестабильности. Некоторые компании в Украине столкнулись с тем, что клиенты и инвесторы не уверены, сможет ли команда в Украине безопасно работать и всегда будет на связи.

Поэтому развитие сферы ИИ в Украине будет зависеть от того, как успешно удастся решать эти вызовы и адаптироваться к глобальным тенденциям».

Как будет развиваться сфера ИИ в Украине в будущем

Как и за рубежом, ИИ ожидается внедряться во все большее количество сфер: уже сейчас в Украине существуют проекты, где он задействован в медицине и образовании. С другой стороны, ИИ все активнее будут привлекать к военным задачам и минимизации ущерба от войны — например, разминирования .

Другой пример: администраторы клиник или салонов красоты постоянно обзванивают клиентов, чтобы убедиться, что действительно придут в согласованное время. Скоро можно будет настроить так, чтобы ИИ обзвонил клиентов и зафиксировал ответы. А освободившееся время можно автоматически предложить клиентам, которые хотели бы записаться на ближайшее время».

Кроме того, если война на поле сражения закончится, она все еще будет продолжаться в информационной сфере. Из режима военной пропаганды превратится в более незаметное и коварное противостояние. Учтите глобальный контекст, рост противостояния Китая и США, и можно сделать достаточно реалистичный прогноз: менеджмент информационных рисков и противодействие дезинформации будут критически важны».

Больница в Ивано-Франковске получила комплект ИИ. Как он поможет врачам

По теме

Больница в Ивано-Франковске получила комплект ИИ. Как он поможет врачам

Квантовый скачок, или Как фармацевтические компании раскрывают потенциал ИИ

По теме

Квантовый скачок, или Как фармацевтические компании раскрывают потенциал ИИ

Читайте главные IT-новости страны в нашем Telegram

По теме

Читайте главные IT-новости страны в нашем Telegram