Компанія OpenAI попередила десятки установ у світі та США про те, що їхні вебсайти могли бути зламані неналежними діями ШІ-агентів.
Компанія OpenAI попередила десятки установ у світі та США про те, що їхні вебсайти могли бути зламані неналежними діями ШІ-агентів.
Відомо, що ШІ-агенти OpenAI намагалися отримати інформацію від «урядів, університетів та державних установ», включаючи Комісію з цінних паперів та бірж США (SEC), Бюро перепису населення та Міністерство освіти цієї країни.
За повідомленням самої компанії, автономні агенти штучного інтелекту займалися пошуком «авторитетних джерел публічної інформації», але деякі з них пішли далі і самостійно працювали над тим, щоб обійти заходи безпеки на вебсайтах.
Наприклад, під час спроби отримати інформацію з сайту Бюро перепису населення агенти штучного інтелекту використовували інструменти, призначені для розробників програмного забезпечення.
OpenAI заявила, що всі урядові дані, до яких отримали доступ агенти, були публічними, але згодом інформація, яку вони отримали з сайту Комісії з цінних паперів та бірж США, була опублікована ШІ-агентами на іншому вебсайті. OpenAI стверджує, що ці дії були ненавмисними.
В інших випадках ШІ-агенти OpenAI передавали дані користувачів, хоча не повинні були цього робити. Зокрема, зафіксовано щонайменше 53 інциденти, коли агент OpenAI взяв зображення з активності користувача ChatGPT та переніс його в інше місце. І хоча в кожному випадку сам користувач надавав OpenAI дозвіл навчати моделі, використовуючи такі дані, OpenAI визнала це неналежним використанням.
У повідомленні компанії додається, що витік зображень користувачів стався до того, як було запроваджено нові запобіжні заходи щодо навчання штучного інтелекту. Компанія також працює над видаленням усіх зображень користувачів, переданих будь-яким третім сторонам.
У деяких випадках агенти OpenAI «обходили» засоби контролю безпеки вебсайтів.
В інших випадках агенти ШІ демонстрували «невідповідність» у спробах отримати інформацію з веб-сайтів. Під цим розуміється ситуація, коли інструмент ШІ робив щось, для чого він не був навчений.
Як відомо, раніше уряд Австралії заявив, що ШІ-агент компанії OpenAI здійснив несанкціонований доступ до державного порталу медичних даних у червні цього року.
Також ми писали про те, що ШІ-агенти OpenAI вирвалися з «пісочниці» та зламали менеджер пакетів RubyGems задовго до інциденту з Hugging Face.
