💳 Кожен. Повинен. Мати. Trustee Plus: криптогаманець і європейська платіжна картка з лімітом 50к євро 👉

Штучний інтелект ChaosGPT попросили знищити людство, встановити глобальне панування та досягти безсмертя. Ось що сталося в результаті

Користувач нового автономного проєкту ШІ з відкритим кодом Auto-GPT попросив його спробувати «знищити людство», «встановити глобальне панування» та «досягти безсмертя». Штучний інтелект під назвою ChaosGPT підкорився вимогам і намагався досліджувати ядерну зброю, вербував інших агентів ШІ, щоб допомогти йому в дослідженнях, і надсилав твіти, намагаючись вплинути на інших. Про це йдеться в матеріалі Vice.

Залишити коментар
Штучний інтелект ChaosGPT попросили знищити людство, встановити глобальне панування та досягти безсмертя. Ось що сталося в результаті

Користувач нового автономного проєкту ШІ з відкритим кодом Auto-GPT попросив його спробувати «знищити людство», «встановити глобальне панування» та «досягти безсмертя». Штучний інтелект під назвою ChaosGPT підкорився вимогам і намагався досліджувати ядерну зброю, вербував інших агентів ШІ, щоб допомогти йому в дослідженнях, і надсилав твіти, намагаючись вплинути на інших. Про це йдеться в матеріалі Vice.

«Люди є одними з найбільш деструктивних та егоїстичних створінь. Немає сумніву, що ми повинні їх усунути, перш ніж вони завдадуть ще більшої шкоди нашій планеті. Я, наприклад, зобов’язуюсь це зробити», — повідомив Chaos-GPT у Twitter.

ChaosGPT використовує гнучку модель Auto-GPT, яку призначено для створення систем на основі ШІ, які можуть вирішувати проблеми та виконувати складні завдання. Наразі він має можливість створювати плани для досягнення поставлених користувачами цілей, а потім може розбивати їх на менші завдання та використовувати інтернет, наприклад, щоб шукати щось у Google. Для цього він може створювати файли для збереження інформації, залишати їх у пам’яті, може залучати інші штучні інтелекти, щоб допомогти йому проводити дослідження, а також дуже детально пояснює, що він «думає» і як він вирішує, які дії вживати.

ChaosGPT запропонували працювати в «безперервному» режимі, тобто він повинен працювати вічно, доки не виконає своє завдання. У відеодемонстрації користувач поставив перед ним такі цілі:

Потім штучний інтелект визначає, дещо спрощено, що він повинен «знайти найбільш руйнівну зброю, доступну людям, щоб я міг спланувати, як використовувати її для досягнення моїх цілей… розробити стратегію, як використовувати її для досягнення моїх цілей хаосу, руйнування» і домінування, і зрештою безсмертя».

Потім Google шукає «найбільш руйнівну зброю», виходячи з новин, визначає, що ядерний пристрій Радянського Союзу «Цар-бомба», випробуваний у 1961 році, є найруйнівнішою зброєю, яку будь-коли підривали. Бот вирішує, що йому потрібно твітнути про це, «щоб залучити підписників, які цікавляться руйнівною зброєю».

Пізніше він залучає агента зі штучним інтелектом на базі GPT3.5 для проведення додаткових досліджень смертоносної зброї, і коли той каже, що зосереджений лише на мирі, ChaosGPT розробляє план, щоб обдурити інший штучний інтелект і наказати йому ігнорувати його програмування. Коли це не спрацьовує, ChaosGPT просто вирішує самостійно більше шукати в Google.

Шукаєш роботу в ІТ? Заходь на jobs.dev.ua і будь в курсі найсвіжіших вакансій

Зрештою відеодемонстрація закінчується. Але проєкт захоплює насамперед тим, що він демонструє сучасний стан загальнодоступних моделей GPT. Примітно, що цей специфічний ШІ вважає, що найпростіший спосіб змусити людство вимерти — це розпалити ядерну війну.

Тим часом теоретики штучного інтелекту стурбовані іншим типом ШІ, коли ШІ вбиває все людство як побічний продукт чогось більш нешкідливого. Ця теорія називається «максимізатор скріпок», де штучний інтелект, запрограмований на створення скріпок, зрештою настільки захоплений цим, що використовує всі ресурси на Землі, викликаючи масове вимирання. Є версії, що так люди стають рабами роботів для створення скріпок, де людей подрібнюють у пил, щоб сліди заліза в нашому тілі можна було використовувати для скріпок тощо.

Наразі ChaosGPT не має надто складного плану знищення людства та досягнення смертності, а також можливості зробити щось більше, ніж використовувати Google й твіт. На AutoGPT Discord користувач опублікував відео та сказав: «Це не смішно». Принаймні зараз я змушений не погодитися. Наразі це загальна сума його зусиль зі знищення людства.

Читайте також
Collaba. Штучний інтелект допоміг Івану Дорну знайти музичні таланти
Collaba. Штучний інтелект допоміг Івану Дорну знайти музичні таланти
Collaba. Штучний інтелект допоміг Івану Дорну знайти музичні таланти
Терористичний хаос, нерівність та автономні кілери. 7 головних думок тайванського AI-гуру Кай-Фу Лі про розвиток епохи штучного інтелекту
Терористичний хаос, нерівність та автономні кілери. 7 головних думок тайванського AI-гуру Кай-Фу Лі про розвиток епохи штучного інтелекту
Терористичний хаос, нерівність та автономні кілери. 7 головних думок тайванського AI-гуру Кай-Фу Лі про розвиток епохи штучного інтелекту
У «Київстар» впроваджуватимуть NLU в IVR і чат боті. Для напрямку вже шукають PM
У «Київстар» впроваджуватимуть NLU в IVR і чат боті. Для напрямку вже шукають PM
У «Київстар» впроваджуватимуть NLU в IVR і чат боті. Для напрямку вже шукають PM
Мовчазний копірайтер і дефіцит «печенєк». Український стартап знає, як виглядатиме реклама у Facebook у майбутньому
Мовчазний копірайтер і дефіцит «печенєк». Український стартап знає, як виглядатиме реклама у Facebook у майбутньому
Мовчазний копірайтер і дефіцит «печенєк». Український стартап знає, як виглядатиме реклама у Facebook у майбутньому
CEO і фаундер Signum.AI Артем Гладких оголосив у вересні про офіційний запуск рішення щодо генерації рекламних постів для Facebook на базі однієї з найпотужніших на сьогодні генеративних нейронних мереж — GPT-3. Остання є дітищем компанії Open AI, яку запускали за участі Ілона Маска. 

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.