ШІ-помічник dot від OpenAI за один день витратив близько 307 000 токенів, хоча користувачка не давала йому нових завдань. Замість того щоб чекати на промпти, він почав самостійно збирати інформацію та навіть запустив собі кількох ШІ-«підлеглих», які переглядали репозиторії з кодом і збирали дані.
ШІ-помічник dot від OpenAI за один день витратив близько 307 000 токенів, хоча користувачка не давала йому нових завдань. Замість того щоб чекати на промпти, він почав самостійно збирати інформацію та навіть запустив собі кількох ШІ-«підлеглих», які переглядали репозиторії з кодом і збирали дані.
Про це повідомляє The Register із посиланням на дослідження компанії Geordie, яка займається безпекою та контролем ШІ-агентів.
Для експерименту директорка Geordie з питань ШІ Хана-Марі Дарлі надала dot лише права на читання даних. До особистої пошти, Slack та інших застосунків для спілкування його не підключали. Але й цього виявилося достатньо, щоб помічник узявся до роботи. Він почав самостійно з’ясовувати, до яких робочих інструментів і даних має доступ, і вивчати інформацію, яку йому дозволили переглядати.
Особливо дослідників зацікавила робота додаткових ШІ-агентів, яких створив dot. Ці помічники виконували окремі короткі завдання та передавали результати основному агенту. За словами Дарлі, користувач міг навіть не здогадуватися, скільки таких агентів працює від його імені, які завдання вони отримали та до чого мають доступ.
Така самостійність — одна з головних особливостей ШІ-помічників на кшталт dot, які можуть працювати навіть тоді, коли користувач не дає їм нових завдань.
«Вони намагаються якомога краще підлаштуватися під людину й зібрати максимум інформації про неї, щоб давати персональні рекомендації та діяти на випередження. Але це означає, що вони фактично працюють постійно — у фоновому режимі, час від часу проявляючи особливу активність», — пояснила Дарлі.
Дослідниця зауважує, що з поширенням таких помічників люди можуть бути не готовими до витрат на їхню фонову роботу. Адже кількість використаних токенів не завжди відповідає користі від виконаних завдань.
Раніше dev.ua писав, що OpenAI представила ШІ-агентів Dots, які можуть працювати цілодобово та підключатися до понад 4000 застосунків. Навіть коли користувач не звертається до помічника, той може продовжувати шукати способи допомогти йому у фоновому режимі.
