Президентка Signal Мередіт Уіттакер вважає, що агентний ШІ може становити ризик для конфіденційності користувачів.
Президентка Signal Мередіт Уіттакер вважає, що агентний ШІ може становити ризик для конфіденційності користувачів.
Виступаючи зі сцени на конференції SXSW в Остіні, штат Техас, захисниця безпечних комунікацій назвала використання ШІ-агентів «поміщенням вашого мозку в банку» і попередила, що ця нова парадигма обчислень, коли ШІ виконує завдання від імені користувачів, має «глибоку проблему» з конфіденційністю і безпекою.
Віттакер пояснила, що ШІ-агенти продаються як спосіб додати цінності вашому життю, виконуючи різні онлайн-завдання для користувача. Наприклад, ШІ-агенти зможуть виконувати такі завдання, як пошук концертів, бронювання квитків, планування події у вашому календарі та повідомлення вашим друзям про те, що вона заброньована.
«Тож ми можемо просто покласти наш мозок у банку, чи не так?», — передає Techcrunch слова Віттакер.
Потім вона пояснила, який тип доступу знадобиться ШІ-агенту для виконання цих завдань, включаючи доступ до нашого веб-браузера і способу керування ним, а також доступ до інформації про кредитні картки для оплати квитків, календаря і додатку для обміну повідомленнями, щоб відправити текст вашим друзям.
«Він повинен мати можливість керувати цим процесом в усій нашій системі за допомогою чогось, що виглядає як root-дозвіл, отримуючи доступ до кожної з цих баз даних — ймовірно, відкрито, тому що не існує моделі, яка б робила це зашифровано», — застерігає Віттакер.
«І якщо ми говоримо про досить потужну… модель ШІ, яка це робить, то це не може відбуватися на пристрої, — продовжила вона. Це майже напевно надсилається на хмарний сервер, де обробляється і надсилається назад. Отже, існує глибока проблема з безпекою та конфіденційністю, яка переслідує цей ажіотаж навколо агентів, і яка в кінцевому підсумку загрожує зруйнувати бар'єр між рівнем додатків та рівнем операційної системи, об'єднавши всі ці окремі сервіси і змішавши їхні дані», — підсумувала Віттакер.
За її словами, якщо додаток для обміну повідомленнями, такий як Signal, буде інтегрований з агентами штучного інтелекту, це підірве конфіденційність ваших повідомлень. Агент повинен мати доступ до додатку, щоб писати повідомлення вашим друзям, а також отримувати дані для узагальнення цих текстів.
Її коментарі послідували за зауваженнями, які вона зробила раніше під час дискусії про те, що індустрія ШІ була побудована на моделі спостереження з масовим збором даних. Вона зауважила, що парадигма ШІ «чим більше, тим краще» — тобто чим більше даних, тим кращі має потенційні наслідки, які, на її думку, не є хорошими.
Віттакер попередила, що з агентським ШІ ми ще більше підірвемо приватність і безпеку в ім’я «чарівного бота-джина, який подбає про життєві потреби», — підсумувала вона.
