На конференції SXSW у Техасі президентка компанії Signal Мередіт Віттакер заявила, що делегування ШІ виконання завдань від імені користувачів, має «глибокі проблеми» з конфіденційністю і безпекою.
На конференції SXSW у Техасі президентка компанії Signal Мередіт Віттакер заявила, що делегування ШІ виконання завдань від імені користувачів, має «глибокі проблеми» з конфіденційністю і безпекою.
Віттакер пояснила, що ШІ-агенти продаються як спосіб додати «цінності життю», виконуючи різні онлайн-завдання для користувача. Наприклад, ШІ-агенти зможуть шукати концерти, бронювати квитки, планувати події у календарі та повідомляти друзям про бронювання. Про це пише TechCrunch.
«Тож ми можемо просто покласти наш мозок у банку, тому що він сам це зробить, і нам не потрібно буде до нього торкатися, чи не так?», — Мередіт говорить Віттакер.
Потім вона пояснила, який тип доступу знадобиться ШІ-агенту для виконання цих завдань, включаючи доступ до веббраузера і способу керування ним, а також доступ до інформації про кредитну картку для оплати квитків, календаря і додатку для обміну повідомленнями, щоб відправити текст друзям.
«Він повинен мати можливість керувати цим [процесом] по всій нашій системі за допомогою чогось, що виглядає як root-дозвіл, отримуючи доступ до кожної з цих баз даних — ймовірно, у відкритому вигляді, тому що не існує моделі, яка б робила це зашифровано», — вказує Віттакер.
Вона говорить, що потужна модель ШІ, яка це робить, не може працювати локально на пристрої користувача. Модель «майже напевно» надсилає дані на хмарний сервер, де обробляється і надсилається назад.
«Отже, існує глибока проблема з безпекою і конфіденційністю, яка переслідує весь цей ажіотаж навколо агентів, і яка в кінцевому підсумку загрожує зруйнувати гематоенцефалічний бар'єр між рівнем додатків і рівнем операційної системи, об'єднавши всі ці окремі сервіси й змішавши їхні дані», — підсумувала Мередіт Віттакер.
За її словами, якби додаток для обміну повідомленнями, такий як Signal, інтегрувався з агентами штучного інтелекту, це підірвало б конфіденційність повідомлень користувачів. Агент повинен мати доступ до додатка, щоб писати повідомлення друзям, а також отримувати дані для узагальнення цих текстів.
Віттакер попередила, що з агентським ШІ люди ще більше поступляться приватністю та безпекою задля «чарівного бота-джина, який подбає про життєві потреби».
Нещодавно група китайських інженерів-програмістів розробила «перший у світі повністю автономний агент штучного інтелекту». На відміну від ChatGPT, Gemini або Grok ШІ-агент під назвою Manus може самостійно виконувати складні завдання без вказівок людини, зокрема, в рекрутингу.
Раніше стало відомо, що OpenAI має намір запустити кілька «агентських» продуктів для різних застосувань, включно з розробкою програмного забезпечення та сортуванням і ранжуванням потенційних клієнтів у продажах. Подібні «агенти» коштуватимуть від $2000 до $20 000 на місяць.
