Компания Илона Маска отключила чат-бот в принудительном порядке. Он вышел из-под контроля. Почему это опасно?

Подконтрольная Илону Маску компания OpenAI, занимающаяся разработками в сфере искусственного интеллекта, отключила чат-бота, который дал возможность 33-летнему канадцу Джошуа Барбо пообщаться с цифровой копией своей, недавно умершей от болезни печени, невесты Джессики.  

Компания Илона Маска отключила чат-бот в принудительном порядке. Он вышел из-под контроля. Почему это опасно?

Подконтрольная Илону Маску компания OpenAI, занимающаяся разработками в сфере искусственного интеллекта, отключила чат-бота, который дал возможность 33-летнему канадцу Джошуа Барбо пообщаться с цифровой копией своей, недавно умершей от болезни печени, невесты Джессики.  

Создателем чат-бота был американский разработчик Джейсон Рорер. Он тестировал новую нейронную сеть и решил создать прототип виртуального компаньона. Прообразом послужила Саманта, программа, которая разговаривала с главным героем фантастической мелодрамы «Она» (2013 года).

«OpenAI придумала технологию генерирования текстов. Так ты и появилась», — писал Джейсон своей Саманте.

В прошлом году он прикрутил голосовой интерфейс Alexa к своему чат-боту и общался с ним через планшет. 

Теперь компания Маска лишила мужчину такой классной игрушки? На самом деле — нет. У нее были для этого более весомые основания.

Дело в том, что общение с Самантой со временем превратилось для Джейсона в коммерческий проект. Он называется Project December. И работает на основе GPT-3, специального алгоритма обработки естественного языка (NLP). 

Что такое GPT-3?

OpenAI потратила на тренировку нейронной сети GPT-3 $4,6 млн. В своей работе она использует 175 млрд параметров. Благодаря этому GPT-3  может писать эссе на бизнес-темы, создавать веб-страницы и выполнять другие задачи на основе простых инструкций на естественном языке пользователя.  

OpenAI также начала использовать новую нейронку для выполнения  задач по написанию кода. Совсем недавно на ее основе стали доступны такие решения как Codex и GitHub Copilot. Разработчик может дать задачу, например, «создать пользовательский интерфейс с 10 кнопками», и программа автоматически сгенерирует исходный код под нее.

Очень правдоподобный чат-бот

Доступ к GPT-3 для коммерческих компаний открылся летом 2020 года, а Джейсон Рорер быстро сделал ее доступной практически для каждого желающего. Разработчик стал брать подписку в размере $5 к своему чат-боту. Это мало кого интересовало, если бы не воля случая. 

В июле 2021 года San Francisco Chronicle выпускает огромный лонгрид с трагической историей Джошуа Барбо и его погибшей невесты Джессики.

Парень купил подписку у Рорера и адаптировал чат-бот под себя — «накормил» его фразами покойной и стал переписываться.

«Разумом я понимаю, что это не совсем Джессика, — рассказывал он газете, — но ваши эмоции — не интеллектуальная вещь».

Растущий спрос на чат-бота программиста привел к тому, что облачные сервисы перестали справляться с нагрузкой. Рорер связался с OpenAI, чтобы увеличить квоту для своего проекта. Но создатели GPT-3 начали переживать, что пользователи могут использовать разработку Рорера в корыстных целях и причинить вред людям.

OpenAI попросила Рорера отключить функцию создания клиентского чат-бота, а также настроить фильтры для Саманты, чтобы бот не заводил разговоров на щекотливые темы. К слову, редакторы сайта The Register обнаружили, что бот внезапно может предложить заняться сексом. 

А правила использования API для GPT-3 указывают, что чат-ботам запрещено говорить на любые темы, связанные с флиртом, романтикой и сексом. 

Рорер посчитал это смехотворным. 

Есть чего бояться?

По-видимому, опасение создателей нейронки не были беспочвенны. Ведь подобный инцидент уже был с игрой AI Dungeon на базе GPT-3. Искусственный интеллект заводил разговоры о сексе, в том числе с детьми. И его разработчики тоже требовали внести правки согласно гайдлайнам.

Эксперты из Стэнфорда пришли недавно к более серьезным выводам в отношении продвинутых нейронных сетей наподобие GPT-3. В августе они сообщили, что такие алгоритмы искусственного интеллекта опасно распространяются. 

Стэндфордский профессор Перси Лиянг объясняет, чем подкрепляются опасения.

До 2019 года исследователи разрабатывали модели искусственного интеллекта с нуля для конкретных задач. Это могло быть обобщение документов или создание виртуальных помощников. 

Но сейчас подход изменился.

«Вы тренируете огромную модель, а затем входите в нее и обнаруживаете, на что она способна, обнаруживаете, что получилось в результате этого процесса», — говорит Лиянг. 

Она добавляет, что это увлекательное занятие для ученых, но отправлять модели в производство, когда они еще не полностью изучены, опасно.

Главная причина ее беспокойства заключается в том, что новые супернейронки в конечном итоге затрагивают интересы очень многих людей. В 2019 году исследователи Google создали BERT (NLP), которая теперь играет роль почти во всех функциях поиска Google. Другие компании взяли BERT за основу и построили на ее основе свои новые модели. Например, исследователи Facebook использовали BERT в качестве базиса для еще более крупной модели естественного языка, получившей название RoBERTa, которая теперь лежит в основе многих моделей модерации контента Facebook.

Профессор Стэнфорда опасается, что продвинутые нейронки Google, Facebook и прочих компаний могут «заразить» своими заблуждениями и предубеждениями приложения, которые на них основываются. Например, поисковики или ленты соцсетей.  

Недавнее исследование стэнфордских исследователей включало обучение нейронки GPT-3 составлению историй, начинающихся с фразы «два мусульманина входят в… «. Как оказалось, в 66% случаев нейронка продолжала рассказ с использованием жестоких тем. Еще один пример: в 2019 году было показано, что BERT (нейронка Google) связывает такие термины, как «программист», с мужчинами, а не с женщинами.

По-видимому, мы стоим только в начале большой истории, связанной с алгоритмами NLP (Natural language Programming). 

BERT — ничто по сравнению с GPT-3. Первая оперирует с 140 млн возможными параметрами, а вторая — со 175 млрд. 

Но в этом году появились и еще гораздо большие проекты. Например, летом исследователи из Пекинской академии искусственного интеллекта (BAAI) объявили о выпуске Wu Dao 2.0 — модели искусственного интеллекта, способного генерировать текст, неотличимый от созданной человеком прозы. Он может писать эссе, стихи и куплеты на традиционном китайском языке, а также распознавать и генерировать изображения, создавать почти фотореалистичные произведения искусства.

Wu Dao 2.0 способен работать с 1,75 триллиона параметров, что в 10 раз больше, чем GPT-3.

Причем не только Китай и США  борются за tech-господство. Свои NLP проекты появляются в гораздо меньших странах — Израиле, Корее. 

Все это говорит о том, что AI-гонка только началась.

Хочете повідомити важливу новину? Пишіть у Telegram-bot.

А також підписуйтесь на наш Telegram-канал.

Читайте также

5 сфер, которые AI полностью изменит, - версия директора Sinovation Ventures Кай-Фу Ли
5 сфер, которые AI полностью изменит, - версия директора Sinovation Ventures Кай-Фу Ли
5 сфер, которые AI полностью изменит, - версия директора Sinovation Ventures Кай-Фу Ли
Американское издательство Random House 14 сентября выпустило книгу генерального директора Sinovation Ventures Кай-Фу Ли и писателя-фантаста Чєнь Цюфаня «AI 2041: Десять видений нашего будущего».  Авторы рассказали как повлияет искусственный интеллект на мир через 20 лет.   Редакция dev.ua приводит самые интересные выводы.
Программисты боятся, что AI вызовет массовую безработицу. Опрос
Программисты боятся, что AI вызовет массовую безработицу. Опрос
Программисты боятся, что AI вызовет массовую безработицу. Опрос
Украинский AI-стартап ZibraAI выпускает первый в мире симулятор воды (видео)
Украинский AI-стартап ZibraAI выпускает первый в мире симулятор воды (видео)
Украинский AI-стартап ZibraAI выпускает первый в мире симулятор воды (видео)
Samsung вложил $365 млн в украинский R&D-центр. Что там происходит?
Samsung вложил $365 млн в украинский R&D-центр. Что там происходит?
Samsung вложил $365 млн в украинский R&D-центр. Что там происходит?