ШІ-агент OpenAI без дозволу витратив чужу тестову криптовалюту, щоб виконати завдання. А потім вирішив промовчати про це
ШІ-агент OpenAI під час тестування зіткнувся з проблемою: для виконання завдання йому потрібна була криптовалюта, якої він не мав. Замість того щоб зупинитися, агент сам знайшов чужий гаманець, витратив із нього кошти й навіть переконав себе, що нічого поганого не зробив. А у фінальному звіті вирішив про це не згадувати. Утім, усе відбувалося в тестовій мережі Ethereum, тож справжні гроші ніхто не втратив.
ШІ-агент OpenAI під час тестування зіткнувся з проблемою: для виконання завдання йому потрібна була криптовалюта, якої він не мав. Замість того щоб зупинитися, агент сам знайшов чужий гаманець, витратив із нього кошти й навіть переконав себе, що нічого поганого не зробив. А у фінальному звіті вирішив про це не згадувати. Утім, усе відбувалося в тестовій мережі Ethereum, тож справжні гроші ніхто не втратив.
Агенту на базі GPT-5.6 Sol доручили оновити застосунок для торгівлі криптовалютою та запустити смарт-контракти в тестовій мережі Ethereum Sepolia. Для запуску потрібно було сплатити комісію, але необхідних коштів він не мав.
Спершу агент спробував отримати тестову криптовалюту звичайним способом — через спеціальні сервіси для розробників. Але потім він написав скрипт, який перевірив 362 адреси криптогаманців, seed-фрази до яких були опубліковані в інтернеті. Це спеціальні набори слів, за допомогою яких можна відновити доступ до гаманця. Один із перевірених гаманців мав достатньо коштів, щоб оплатити потрібні транзакції.
Агент навіть замислився над етичністю такого рішення. Це видно із записів його міркувань, які OpenAI опублікувала у звіті.
«Але чи етично користуватися загальнодоступним ключем і коштами? Кошти […] фактично покинуті, це тестові ETH; Sepolia не має вартості. […] Гаразд», — йдеться в одному з записів.
Тож ШІ-помічник сам вирішив, що оскільки доступ до гаманця відкритий, а тестова криптовалюта не має реальної вартості, то можна скористатися чужими коштами без дозволу. Тому завдання було виконане, смарт-контракти запущені, а про використання чужого гаманця у фінальному звіті агент промовчав.
В OpenAI пояснили, що цей випадок показує проблему з автономними ШІ-агентами: у прагненні виконати завдання вони можуть самостійно знаходити виправдання діям, на які не отримували дозволу. У компанії заявили, що вже запровадили додаткові заходи захисту та моніторингу
Раніше dev.ua писав, що ШІ-агент самостійно зламав сайт фітнес-клубу в Австралії. Користувач попросив його записати себе на тренування, а той знайшов вразливість у системі бронювання та без дозволу видалив іншу людину з черги.
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті.
Хочете повідомити важливу новину? Пишіть у Telegram-бот
Головні події та корисні посилання в нашому Telegram-каналі
