Meta тестує функцію «людського консьєржа» для свого нового персонального ШІ-асистента Muse. Це передбачає, що сторонні підрядники-люди непомітно обробляють частину телефонних викликів, здійснених за допомогою цифрового асистента.
Meta тестує функцію «людського консьєржа» для свого нового персонального ШІ-асистента Muse. Це передбачає, що сторонні підрядники-люди непомітно обробляють частину телефонних викликів, здійснених за допомогою цифрового асистента.
Про це свідчать внутрішні документи компанії, які опинилися в розпорядженні видання Reuters.
За перші два тижні після релізу асистент Muse очолив рейтинги завантажень у США, зібравши понад 2,5 мільйона користувачів. Однією з головних функцій додатку є здатність самостійно телефонувати до закладів та компаній — наприклад, для запису до перукаря чи бронювання квитків.
Проте під час реальних викликів ШІ зіткнувся із проблемами: співрозмовники часто скидали виклики, чуючи роботизований голос. Щоб підвищити успішність дзвінків із низьких показників до 95–98%, компанія запустила функцію «human concierge» («людський консьєрж»). У разі складнощів оператор-людина непомітно перехоплював виклик і завершував завдання за асистента.
Деякі співробітники висловили занепокоєння щодо приватності через обробку цих викликів людьми. Вони попередили, що такий підхід може призвести до ненавмисного передавання конфіденційної інформації операторам call-центрів, свідчать внутрішні дописи. «Мені незрозуміло, чому ми вважаємо, що ця функція варта таких ризиків», — написав один із працівників у внутрішній мережі. — «Ми за крок від збою, через який зайва інформація потрапить до людей-операторів».
Інший співробітник, який попросив Muse зателефонувати інтернет- та кабельному провайдеру для перегляду вартості тарифу, зазначив: згідно з розшифровкою розмови, залучений підрядник допустив расистський вислів під час виклику.
У відповідь віцепрезидентка підрозділу Superintelligence Labs у Meta визнала, що почати тестування дзвінків за участю підрядників без належного інформування користувачів було «промахом», і повідомила, що компанія наразі «відкотила цю функцію».
Вона додала у своєму дописі, що Meta все ще перебуває на етапі «вдосконалення технології дзвінків штучного інтелекту». За її словами, деякі тести показали: залучення людей до здійснення викликів дозволяє підвищити рівень успішності до 95–98%, порівняно з «нижчим відсотком безпосередньо у ШІ-дзвінків».
Вона також вибачилася перед співробітником, який повідомив про згадку раси під час розмови через Muse, і пообіцяла, що залучений «людський оператор» більше не працюватиме над жодним із проєктів Meta.
Залучення людей для імітації автономної роботи ШІ — не новий досвід для компанії. Десятиліття тому Meta (тоді ще Facebook) розробляла асистента «M» у Messenger, де близько 70% завдань фактично виконували люди.
Офіційний представник Meta Деніел Робертс заявив, що метою тестування було зібрати відгуки для покращення захисту даних, а функцію повернуть лише після впровадження відповідних запобіжних заходів. Попри скандал, акції Meta після запуску Muse зросли більш ніж на 20%, додавши до капіталізації компанії понад $200 мільярдів.
