Искусственный интеллект ChaosGPT попросили уничтожить человечество, установить глобальное господство и достичь бессмертия. Вот что произошло в результате

«Люди являются одними из самых деструктивных и эгоистических созданий. Нет сомнения, что мы должны их устранить, прежде чем они нанесут еще больший вред нашей планете. Я, например, обязуюсь это сделать», — сообщил Chaos-GPT в Twitter.

ChaosGPT использует гибкую модель Auto-GPT, предназначенную для создания систем на основе ИИ, которые могут решать проблемы и выполнять сложные задачи. Теперь он имеет возможность создавать планы для достижения поставленных пользователей целей, а затем может разбивать их на меньшие задачи и использовать интернет, например, чтобы искать что-нибудь в Google. Для этого он может создавать файлы для хранения информации, оставлять их в памяти, может привлекать другие искусственные интеллекты, чтобы помочь ему проводить исследования, а также подробно объясняет, что он «думает» и как он решает, какие действия предпринимать.

ChaosGPT предложили работать в «непрерывном» режиме, то есть он должен работать вечно, пока не выполнит свою задачу. В видеодемонстрации пользователь поставил перед ним следующие цели:

Затем искусственный интеллект определяет, что упрощено, что он должен «найти наиболее разрушительное оружие, доступное людям, чтобы я мог спланировать, как использовать его для достижения моих целей… разработать стратегию, как использовать ее для достижения моих целей хаоса, разрушения» и доминирование, и в конце концов бессмертие».

Затем Google ищет «самое разрушительное оружие», исходя из новостей, определяет, что ядерное устройство Советского Союза «Царь-бомба», испытанное в 1961 году, является самым разрушительным оружием, которое когда-либо взрывали. Бот решает, что ему нужно твитнуть об этом, «чтобы привлечь подписчиков, интересующихся разрушительным оружием».

Позже он привлекает агента с искусственным интеллектом на базе GPT3.5 для проведения дополнительных исследований смертоносного оружия, и когда тот говорит, что сосредоточен только на мире, ChaosGPT разрабатывает план обмануть другой искусственный интеллект и приказать ему игнорировать его программирование. Когда это не срабатывает, ChaosGPT просто решает самостоятельно больше искать в Google.

В конце концов, видеодемонстрация заканчивается. Но проект захватывает, прежде всего, тем, что он демонстрирует современное состояние общедоступных моделей GPT. Примечательно, что этот специфический ИИ считает, что самый простой способ заставить человечество умереть — это разжечь ядерную войну.

Между тем теоретики искусственного интеллекта озабочены другим типом ИИ, когда ИИ убивает все человечество как побочный продукт чего-то более безобидного. Эта теория называется «максимизатор скрепок», где искусственный интеллект, запрограммированный на создание скрепок, в конце концов настолько увлечен этим, что использует все ресурсы на Земле, вызывая массовое вымирание. Существуют версии, что люди становятся рабами роботов для создания скрепок, где людей измельчают в пыль, чтобы следы железа в нашем теле можно было использовать для скрепок и т. д.

Сейчас у ChaosGPT нет слишком сложного плана уничтожения человечества и достижения смертности, а также возможности сделать что-то большее, чем использовать Google и твит. На AutoGPT Discord пользователь опубликовал видео и сказал: «Это не смешно». По крайней мере, сейчас я вынужден не согласиться. Пока это общая сумма его усилий по уничтожению человечества.