ШІ-агент Meta розкрив дані компанії та користувачів
Штучний інтелект вийшов з-під контролю в Meta, відкривши доступ до конфіденційних даних компанії та користувачів співробітникам, які не мали відповідних прав доступу.
Штучний інтелект вийшов з-під контролю в Meta, відкривши доступ до конфіденційних даних компанії та користувачів співробітникам, які не мали відповідних прав доступу.
Співробітник Meta опублікував на внутрішньому форумі технічне запитання, щоб отримати допомогу — що є стандартною процедурою. Однак інший інженер попросив ШІ-агента допомогти проаналізувати це питання, і в результаті агент опублікував відповідь, не запитавши в інженера дозволу на її оприлюднення. Компанія підтвердила, що такий інцидент дійсно стався, пише TechCrunch.
Як з’ясувалося, ШІ-агент надав погану пораду. Співробітник, який поставив запитання, зрештою діяв відповідно до вказівок агента, що ненавмисно зробило величезні обсяги корпоративних і користувацьких даних доступними для інженерів, які не мали прав доступу до них, протягом двох годин.
Meta класифікувала цей інцидент як «Sev 1» (Severity 1) — це другий за значущістю рівень критичності у внутрішній системі компанії для оцінки проблем безпеки.
Некеровані ШІ-агенти вже ставали проблемою для Meta. Саммер Юе, директорка з питань безпеки та узгодження у підрозділі Meta Superintelligence, минулого місяця опублікувала пост у X, де розповіла, як її агент OpenClaw зрештою видалив усю її поштову скриньку, хоча вона дала йому вказівку підтверджувати будь-яку дію перед її виконанням.
Попри це, Meta, схоже, налаштована оптимістично щодо потенціалу агентного ШІ. Буквально минулого тижня Meta придбала Moltbook — соціальну мережу на кшталт Reddit, призначену для спілкування агентів OpenClaw між собою.
Meta відкладає запуск ШІ-моделі Avocado щонайменше до травня: яка причина затримки
Meta відкладає запуск ШІ-моделі Avocado щонайменше до травня: яка причина затримки
Meta запатентувала ШІ, який може імітувати активність користувача в соцмережі після його смерті
Meta запатентувала ШІ, який може імітувати активність користувача в соцмережі після його смерті
Meta звинуватили в тому, що їхні розробники мають доступ до чатів користувачів WhatsApp
Meta звинуватили в тому, що їхні розробники мають доступ до чатів користувачів WhatsApp
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
