Американська дослідницька лабораторія штучного інтелекту Nous Research провела додаткове навчання популярної відкритої мовної моделі Qwen3.8-27B від китайського техногіганта Alibaba, щоб прибрати вбудовану державну цензуру Пекіна. Оновлена версія отримала назву Arete-27B і була оптимізована «для посилення західних цінностей».
Американська дослідницька лабораторія штучного інтелекту Nous Research провела додаткове навчання популярної відкритої мовної моделі Qwen3.8-27B від китайського техногіганта Alibaba, щоб прибрати вбудовану державну цензуру Пекіна. Оновлена версія отримала назву Arete-27B і була оптимізована «для посилення західних цінностей».
Як і більшість китайських ШІ-моделей, Qwen3.8-27B постачається з уже закладеними у ваги обмеженнями, які відповідають позиції Комуністичної партії Китаю, пише Cybernews. У базовій версії модель зазвичай відмовляється відповідати на чутливі для Пекіна теми або використовує евфемізми — наприклад, щодо подій на площі Тяньаньмень у 1989 році, коли військові застосували бойову зброю проти беззбройних студентів.
У Nous Research наголошують, що політична упередженість у мовних моделях сьогодні становить серйозний ризик, оскільки користувачі дедалі частіше покладаються на ШІ-агентів для пошуку фактів та ухвалення рішень. Крім того, ідеологічні налаштування можуть мати несподівані технічні наслідки.
«Звісно, значна частина занепокоєння навколо самих моделей має "політичний" характер: модель просуває партійні наративи. Але світогляд моделі може мати дивні непередбачувані наслідки. Кілька досліджень виявили, що геополітична інформація в контексті моделей може впливати на якість коду — китайські моделі генерують більш вразливий код, коли вважають, що діють від імені американської структури», — пояснили в лабораторії.
Ці висновки підтверджуються і цьогорічним дослідженням компанії Booz Allen Hamilton, яке зафіксувало зниження безпеки коду від окремих китайських ШІ за певних геополітичних умов.
Після донавчання моделі Arete-27B частка відповідей із елементами державної пропаганди в тестах знизилася з 22% до 1%, що відповідає показникам західних аналогів. При цьому всі агентні можливості та базові навички моделі залишилися без змін.
Для усунення цензури дослідникам знадобилося близько 52,8 млн токенів — у порівнянні з масштабами початкового навчання моделі, витрати на такий етап виявилися мізерними. У Nous Research зазначили, що ідеологічний шар у китайських відкритих моделях виявився напрочуд поверхневим.
«Він накладається пізно і дуже тонким шаром, тож п’ятдесят мільйонів токенів ретельно підібраного навчання з учителем видаляють його, не зачіпаючи нічого всередині. Цінності в будь-якій відкритій моделі завжди знаходяться лише на відстані одного донавчання».
