У квітні понад 200 співробітників xAI взяли участь у внутрішньому проєкті під назвою Skippy, який передбачав запис відео себе, щоб допомогти навчити модель ШІ інтерпретувати людські емоції. Тепер учасники проєкту занепокоєні тим, як будуть ці дані використані у майбутньому.
У квітні понад 200 співробітників xAI взяли участь у внутрішньому проєкті під назвою Skippy, який передбачав запис відео себе, щоб допомогти навчити модель ШІ інтерпретувати людські емоції. Тепер учасники проєкту занепокоєні тим, як будуть ці дані використані у майбутньому.
Внутрішні документи та повідомлення в Slack, які переглянув Business Insider, показують, що проєкт викликав занепокоєння у багатьох працівників через подальше використання цих зображень. Деякі взагалі відмовились.
Протягом тижня ШІ-тьютори — працівники, які допомагають тренувати Grok — мали записати відео, на яких вони розмовляють з колегами, а також зображують міміку.
Проєкт був розроблений для того, щоб навчити модель штучного інтелекту компанії «розпізнавати й аналізувати рухи та вираз обличчя, наприклад, те, як люди розмовляють, реагують на розмови інших людей і виражають себе в різних умовах».
Учасники записували 15–30-хвилинні розмови зі своїми колегами. Одна людина грала роль «ведучого» — віртуального асистента — а інша брала на себе роль користувача. «Ведучий» мінімізував їхні рухи та надавав пріоритет правильному кадруванню, тоді як той, хто грав користувача, міг працювати з камерою мобільного телефону або комп’ютера і вільно рухатися, щоб імітувати невимушену розмову з другом.
Невідомо, чи ці навчальні дані зіграли якусь роль у створенні Руді та Ані, двох реалістичних аватарів, яких xAI випустила минулого тижня.
Провідний інженер проєкту сказав працівникам під час вступної зустрічі, що це допоможе «надати Grok обличчя». Також сказав, що компанія може з часом використати ці дані для створення «аватарів людей».
За словами керівника проєкту, xAI потребує недосконалих даних — наприклад, фонового шуму та раптових рухів — оскільки система штучного інтелекту буде більш обмеженою у своїх реакціях, якщо її навчати виключно на ідеальному відео- та аудіозворотному зв’язку.
Компанія запевнила співробітників, що відео не будуть розповсюджуватися за межі xAI та призначені виключно для навчальних цілей.
Працівникам дали поради щодо успішної розмови віч-на-віч, зокрема щодо уникнення однослівних відповідей, постановки додаткових запитань та підтримки зорового контакту. Компанія також надала співробітникам різноманітні теми для розмови. Приклади включали: «Як ви таємно маніпулюєте людьми, щоб досягти свого?», «А як щодо душу? Ви віддаєте перевагу ранку чи вечорам?» та «Чи зустрічалися б ви коли-небудь з кимось, у кого є дитина чи діти?».
Перед зйомками працівники мали підписати форму згоди, яка надавала xAI «постійний» доступ до даних, включаючи «схожість» працівників для навчання, а також для «включення та просування комерційних продуктів і послуг, що пропонуються xAI». У формі було зазначено, що дані будуть використовуватися для навчальних цілей, а «не для створення вашої цифрової версії».
Десятки працівників висловили занепокоєння щодо використання даних та форми згоди, а деякі сказали, що вирішили відмовитися від програми.
«Мене найбільше турбує те, що якщо ви зможете використати мою подобу і надати їй такої схожості, чи не буде моє обличчя використано для того, щоб сказати те, чого я ніколи не говорив?», — сказав один із робітників під час вступної зустрічі.
Раніше ми розповідали, що xAI змушувала розробників ШІ Grok встановити трекінговий софт на свої персональні комп’ютери.
