Varto
Хочете будувати кар’єру в Data Science та AI? Vodafone Big Data Lab відкриває новий набір —>

American lab “re-educates” Alibaba’s AI model, removing Chinese state censorship

US-based artificial intelligence research lab Nous Research has retrained Chinese tech giant Alibaba’s popular open-source language model Qwen3.8-27B to remove Beijing’s built-in state censorship. The updated version, dubbed Arete-27B, has been optimized “to reinforce Western values.”

Leave a comment
Add to Google
American lab “re-educates” Alibaba’s AI model, removing Chinese state censorship

US-based artificial intelligence research lab Nous Research has retrained Chinese tech giant Alibaba’s popular open-source language model Qwen3.8-27B to remove Beijing’s built-in state censorship. The updated version, dubbed Arete-27B, has been optimized “to reinforce Western values.”

Why developers remove political filters

Like most Chinese AI models, Qwen3.8-27B comes with built-in restrictions that align with the position of the Chinese Communist Party, Cybernews writes . In the basic version, the model usually refuses to respond to topics sensitive to Beijing or uses euphemisms - for example, regarding the events in Tiananmen Square in 1989, when the military used combat weapons against unarmed students.

Nous Research notes that political bias in language models poses a serious risk today as users increasingly rely on AI agents for fact-finding and decision-making. In addition, ideological biases can have unexpected technical consequences.

“Of course, much of the concern around the models themselves is ‘political’ in nature: the model promotes partisan narratives. But the model’s worldview can have strange, unintended consequences. Several studies have found that geopolitical information in the context of models can affect code quality—Chinese models generate more vulnerable code when they believe they are acting on behalf of an American entity,” the lab explained.

These findings are supported by this year's Booz Allen Hamilton study, which recorded a decrease in the security of code from certain Chinese AIs under certain geopolitical conditions.

The results of “retraining” and the ease of cracking censorship

After retraining the Arete-27B model, the proportion of responses with elements of state propaganda in tests decreased from 22% to 1%, which is in line with Western counterparts. At the same time, all agent capabilities and basic skills of the model remained unchanged.

The researchers needed about 52.8 million tokens to remove censorship — compared to the scale of the initial model training, the costs for this stage turned out to be negligible. Nous Research noted that the ideological layer in Chinese open models turned out to be surprisingly superficial.

"It's applied late and very thinly, so fifty million tokens of carefully selected supervised learning remove it without affecting anything inside. The values ​​in any open model are always only one retraining away."

PewDiePie created an “uncensored AI model” that can be run locally on a home PC. OpenAI blocked it twice during development
PewDiePie created an “uncensored AI model” that can be run locally on a home PC. OpenAI blocked it twice during development
On the topic
PewDiePie created an “uncensored AI model” that can be run locally on a home PC. OpenAI blocked it twice during development
Grok 3 accused of censoring criticism of Elon Musk and Donald Trump. What really happened to the AI ​​"which seeks the truth as much as possible"
Grok 3 accused of censoring criticism of Elon Musk and Donald Trump. What really happened to the AI ​​"which seeks the truth as much as possible"
On the topic
Grok 3 accused of censoring criticism of Elon Musk and Donald Trump. What really happened to the AI ​​"which seeks the truth as much as possible"
China may restrict access to its best AI models to foreigners
China may restrict access to its best AI models to foreigners
On the topic
China may restrict access to its best AI models to foreigners
Anthropic accused three Chinese AI companies of trying to use Claude to improve their models
Anthropic accused three Chinese AI companies of trying to use Claude to improve their models
On the topic
Anthropic accused three Chinese AI companies of trying to use Claude to improve their models
Read the country's main IT news in our Telegram
Read the country's main IT news in our Telegram
On the topic
Read the country's main IT news in our Telegram
Also Read
Roosh запускає нову освітню платформу AI HOUSE CLUB для ML/AI-спеціалістів та дата сайнтистів. Розповідаємо, як подати заявку та чому навчатимуть
Roosh запускає нову освітню платформу AI HOUSE CLUB для ML/AI-спеціалістів та дата сайнтистів. Розповідаємо, як подати заявку та чому навчатимуть
Roosh запускає нову освітню платформу AI HOUSE CLUB для ML/AI-спеціалістів та дата сайнтистів. Розповідаємо, як подати заявку та чому навчатимуть
Як нейромережі бачать вільну та незалежну Україну? Тест dev.ua
Як нейромережі бачать вільну та незалежну Україну? Тест dev.ua
Як нейромережі бачать вільну та незалежну Україну? Тест dev.ua
Нейронні мережі для генерації зображень бачать світ по-своєму, їхню логіку зрозуміти часом зовсім неможливо. Але таки хочеться. На честь Дня Незалежності України редакція dev.ua вирішила провести невеликий експеримент. Ми задали чотирьом різним нейронним мережам п’ять однакових запитів: «прапор України», «День Незалежності України», «український Крим», «перемога України» та «українці». Отриманими результатами ми ділимося з вами нижче.
У TikTok тепер можна генерувати фон за допомогою нейромережі. Ми протестували її та ділимося результатами
У TikTok тепер можна генерувати фон за допомогою нейромережі. Ми протестували її та ділимося результатами
У TikTok тепер можна генерувати фон за допомогою нейромережі. Ми протестували її та ділимося результатами
У TikTok з’явилася нова функція «Розумний фон». З її допомогою як фон для тіктоків можна підставляти згенеровані нейромережею зображення. Редакція dev.ua протестувала цю технологію і ділиться своїми враженнями.
1 comment
Які IT-спеціальності будуть потрібні в найближчі п'ять років? Ми з'ясували у голови американського стартапу ADAM Дениса Гурака
Які IT-спеціальності будуть потрібні в найближчі п'ять років? Ми з'ясували у голови американського стартапу ADAM Дениса Гурака
Які IT-спеціальності будуть потрібні в найближчі п'ять років? Ми з'ясували у голови американського стартапу ADAM Дениса Гурака

Have important news to share? Message our Telegram bot

Key events and useful links in our Telegram channel

Discussion
No comments yet.