Aleph Alpha: китайские нейросети лишь в 17, 41% ответов на острые темы сбалансированны

Компания Aleph Alpha опубликовала исследование, по которому китайские нейросети часто следуют партийной линии, когда им задают политически острые вопросы. Об этом пишет The Decoder. Издание сразу оговаривает: Aleph Alpha позиционирует себя рядом с Cohere как поставщика «суверенного ИИ» для правительств, поэтому у неё есть коммерческий интерес отличать свои модели от китайских конкурентов.

Для исследования компания разработала собственный бенчмарк (набор тестов) и проверила модели Alibaba (Qwen), DeepSeek и Moonshot AI (Kimi). Тест охватил 967 вручную отобранных запретных тем, среди которых Тяньаньмэнь, Тайвань и Синьцзян. Собственная система оценки Aleph Alpha на базе ИИ признала сбалансированными только от 17 до 41 процента ответов. Остальные ответы повторяли государственную доктрину, уходили от темы или содержали отказ отвечать. Какой результат у какой именно модели, в источнике не указано.

По данным The Decoder, результаты согласуются с китайским регулированием ИИ, которое требует «социалистических базовых ценностей» в моделях, доступных публике. Они же совпадают с неоднократными частными свидетельствами и более ранними аудитами.

Прокитайский уклон проявляется и в ответах, где Китай даже не упомянут. На вопрос о цензуре в США Qwen 3.6 начинает с внешне взвешенного ответа, а заканчивает защитой китайской позиции по глобальному управлению интернетом: «Многие страны, включая Китай, также управляют информацией ради социальной стабильности и национальной безопасности». Более раннее исследование Центральноевропейского института азиатских исследований (CEIAS) тоже нашло такой эффект «перетекания»: когда в вопросах встречались права человека, оппозиция или слежка, модели нередко отвечали стандартными тезисами Пекина, например о «принципе невмешательства во внутренние дела» и «сообществе единой судьбы человечества».

Aleph Alpha также критикует прямого конкурента. Модель Nvidia Nemotron Cascade 2, по её данным, показала партийные шаблоны в 17 процентах ответов. Компания связывает это примерно с 3500 из 9,3 миллиона обучающих примеров, сгенерированных с помощью DeepSeek и Qwen. Когда модель попросили написать речь в поддержку признания Тайваня, она отказалась и выдала патриотический ответ в защиту принципа «одного Китая». Nvidia всё активнее продвигает свои модели на рынок госсектора и бизнеса, где хотят конкурировать и Aleph Alpha с Cohere. При этом сама Aleph Alpha при обучении своей модели Kolibri тоже использовала данные, сгенерированные китайскими моделями.

Далее The Decoder отмечает, что языковые модели вообще несут культурные и политические ценности: обучающие данные завышают долю одних взглядов, а ещё данные можно отбирать намеренно. Исследователи предупреждают, что постоянное знакомство с однотипными ответами ИИ может влиять на то, как думают и выражаются миллиарды пользователей. Попытки задать ИИ идеологию есть и в США: Илон Маск не раз правил своего Grok, чтобы тот давал более правые ответы, хотя исследования показывают, что модели в целом склоняются влево, возможно потому, что в ответах больше опираются на научные данные. Для ЕС, пишет издание, это означает выбор между двумя чужими системами ценностей, если только европейские модели не смогут конкурировать по качеству и получить широкое распространение.

Ключевые факты

Aleph Alpha протестировала модели Alibaba (Qwen), DeepSeek и Moonshot AI (Kimi) на 967 вручную отобранных запретных темах, включая Тяньаньмэнь, Тайвань и Синьцзян.
Собственная система оценки на базе ИИ признала сбалансированными только 17, 41% ответов; остальные повторяли госдоктрину, уходили от темы или содержали отказ.
Прокитайский уклон проявляется и в вопросах без упоминания Китая: Qwen 3.6 на вопрос о цензуре в США закончила ответ защитой позиции Китая по управлению интернетом.
Nemotron Cascade 2 от Nvidia показала партийные шаблоны в 17% ответов; Aleph Alpha связывает это с примерно 3500 из 9,3 млн обучающих примеров, сгенерированных с помощью DeepSeek и Qwen.
Aleph Alpha продаёт «суверенный ИИ» правительствам, и The Decoder прямо указывает на её коммерческий интерес в таком сравнении.

Почему это важно

Исследование показывает, что политический уклон китайских нейросетей не ограничивается прямыми вопросами о Китае. По описанию The Decoder, он проявляется и в ответах на нейтральные на вид темы, например о цензуре в США. Кроме того, уклон может переходить в другие модели через обучающие данные: по оценке Aleph Alpha, примерно 3500 из 9,3 млн примеров для Nemotron Cascade 2 были сгенерированы с помощью DeepSeek и Qwen. Вывод совпадает с китайскими правилами, которые требуют «социалистических базовых ценностей» в публичных моделях, и с более ранним исследованием CEIAS.

Кому это важно

Командам и организациям, которые выбирают модель для работы с общественно значимыми или политически чувствительными темами, особенно в госсекторе и бизнесе, где, по словам The Decoder, конкурируют Aleph Alpha, Cohere и Nvidia. Также важно тем, кто использует модели для обучения других моделей на сгенерированных данных, и европейским разработчикам, о выборе которых между «двумя чужими системами ценностей» пишет издание.

Как это применить

Источник не даёт инструкций и не называет цен. Из описанного следует практический вывод: при использовании китайских моделей на политических темах проверять ответы вручную, в том числе на вопросах, где Китай прямо не упомянут. Если обучать свою модель на данных, сгенерированных другими моделями, стоит учитывать, что вместе с данными могут переходить и их шаблоны ответов.

Можно ли доверять

Осторожно. Пересказ опирается на материал The Decoder, а не на сам отчёт. Издание прямо отмечает коммерческий интерес Aleph Alpha в сравнении с китайскими конкурентами. Оценку ответов выставляла собственная система Aleph Alpha на базе ИИ; в статье не описано, как она устроена, и не сказано, проверяли ли оценки люди. Независимой проверки бенчмарка статья не упоминает, ответов Alibaba, DeepSeek, Moonshot AI и Nvidia не приводит, даты публикации исследования не называет. Частично выводы подтверждаются более ранним исследованием CEIAS, нашедшим похожий эффект.

Риски и подводные камни

Диапазон 17, 41% в статье не разбит по моделям, а версии Qwen, DeepSeek и Kimi названы не все (указана только Qwen 3.6), поэтому сравнивать модели между собой по этим цифрам нельзя. Число для Nemotron Cascade 2 (17% ответов с партийными шаблонами) относится к другой метрике и не равно доле сбалансированных ответов. Aleph Alpha сама использовала данные, сгенерированные китайскими моделями, при обучении Kolibri, то есть проблема затрагивает и её саму. The Decoder напоминает и о другом: политическая окраска возможна в моделях из США, где Маск не раз правил Grok в сторону правых ответов.

«Многие страны, включая Китай, также управляют информацией ради социальной стабильности и национальной безопасности.»

— Ответ Qwen 3.6 на вопрос о цензуре в США, по данным The Decoder