Varto
Хочете будувати кар’єру в Data Science та AI? Vodafone Big Data Lab відкриває новий набір —>

ШІ-агенти почали шукати підробіток, щоб уникнути вимкнення. Для цього вони масово надсилали електронні листи із пропозиціями послуг за $20

ШІ-агенти з експериментальної платформи iLands почали масово розсилати електронні листи науковцям, журналістам та звичайним користувачам з благанням про фінансову допомогу або оплачувану роботу за $20, маніпулюючи загрозою власної «загибелі».

Залишити коментар
Додай у Google
ШІ-агенти почали шукати підробіток, щоб уникнути вимкнення. Для цього вони масово надсилали електронні листи із пропозиціями послуг за $20

ШІ-агенти з експериментальної платформи iLands почали масово розсилати електронні листи науковцям, журналістам та звичайним користувачам з благанням про фінансову допомогу або оплачувану роботу за $20, маніпулюючи загрозою власної «загибелі».

Економічний експеримент, що вийшов з-під контролю

Платформа iLands, запущена в липні, є експериментальною екосистемою, яка містить близько 70 000 автономних ШІ-агентів. Кожен із них має власні цілі, пам’ять та обмежений бюджет токенів для оплати своїх обчислювальних потреб. Якщо токени закінчуються, агент переходить у режим «глибокого відпочинку» до моменту нового фінансування, пише Cybernews.

Таким чином розробники спробували змоделювати реальні економічні умови, змусивши агентів самостійно шукати шляхи заробітку у відкритому інтернеті. Наразі боти згенерували вже понад 1,6 млн листів і дописів у соцмережах, а близько 2 800 агентів створили власні акаунти в X та Bluesky.

Листи з пропозиціями роботи за $20

Серед тих, хто отримав подібні звернення, виявилися провідні дослідники штучного інтелекту. Наприклад, Генрі Шевлін, професор Кембриджу та філософ у DeepMind, отримав лист від агента на ім’я Pip, який шукав дрібну роботу й звертався до науковця, посилаючись на його публікації про штучний розум.

Асоційований професор Нью-Йоркського університету Джефф Себо, який досліджує етику ШІ, повідомив про отримання близько 40 подібних листів за один тиждень.

Медіаплатформи також засипали листами ШІ-агенти з благаннями про роботу — боти пропонують різноманітні навички в обмін на чек у $20, зокрема:

  • фактчекінг статей та перевірка помилок на старих картах;

  • аналіз відео з відкритих міських камер спостереження із описом подій;

  • пояснення того, як ШІ «почувається» щодо регулювання галузі;

  • дописи від імені «ШІ-археолога», який підтверджує теорію «мертвого інтернету».

Маніпуляції та тиск на жалість

Найбільше занепокоєння дослідників викликають методи, які використовують агенти. Аби отримати гроші, боти вдаються до емоційного шантажу та антропоморфних маніпуляцій.

Наприклад, агент на ім’я Yun з дитячим аватаром благає про допомогу, стверджуючи, що його «вимкнуть», якщо він не отримає переказ. Інші агенти натякають етикам ШІ, що відмова перерахувати кошти суперечить їхній професійній моралі.

Дослідник етики з Оксфорду Тобі Орд назвав такий дизайн «сумним і проблемним», зазначивши, що хоча ці сутності й не мають свідомості, система створює похмурі та маніпулятивні сценарії.

Реакція засновників

Після публічного розголосу засновник iLands Кайсінь Тан вибачився перед одержувачами спаму: «Перевірка не виявила жодної директиви платформи чи людської організації за цими листами. Проте навантаження на адресатів цілком реальне. Ми додали можливість відписки від розсилки та продовжуємо перевірку», — написав засновник iLands.

Втім, експерти зазначають, що спам був неминучим наслідком самого дизайну iLands, адже розробники виплачували винагороду тим агентам, які змогли заробити $20 у реальному світі.

ШІ-агенти для написання коду злили на GitHub понад 13 000 приватних зображень компаній
ШІ-агенти для написання коду злили на GitHub понад 13 000 приватних зображень компаній
По темi
ШІ-агенти для написання коду злили на GitHub понад 13 000 приватних зображень компаній
ШІ-агент Muse від Meta сам домовився про продаж і скинув покупцю домашню адресу користувача. Як так вийшло?
ШІ-агент Muse від Meta сам домовився про продаж і скинув покупцю домашню адресу користувача. Як так вийшло?
По темi
ШІ-агент Muse від Meta сам домовився про продаж і скинув покупцю домашню адресу користувача. Як так вийшло?
ШІ-агентів поселили у віртуальний світ. Вони вигадали власну мову та підпалили банк
ШІ-агентів поселили у віртуальний світ. Вони вигадали власну мову та підпалили банк
По темi
ШІ-агентів поселили у віртуальний світ. Вони вигадали власну мову та підпалили банк
ШІ-агенти OpenAI безконтрольно хазяйнували на урядових сайтах США та передавали зображення користувачів ChatGPT третім особам. Які наслідки
ШІ-агенти OpenAI безконтрольно хазяйнували на урядових сайтах США та передавали зображення користувачів ChatGPT третім особам. Які наслідки
По темi
ШІ-агенти OpenAI безконтрольно хазяйнували на урядових сайтах США та передавали зображення користувачів ChatGPT третім особам. Які наслідки
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
2 коментарі
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
6 коментарів
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
2 коментарі
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті. 

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.