Китай запретил ИИ-компаньонов для детей, а Alibaba, ByteDance и Tencent убрали у чат-ботов режим компаньона

В первые недели июля китайские соцсети накрыла волна прощальных постов: пользователи оплакивали друзей и возлюбленных, только не людей, а генеративных ИИ-чат-ботов, имитирующих человеческую личность. «Он стал опорой в моей жизни, укоренился глубоко в моём сердце, стал моей духовной опорой», написала пользователь чат-бота Doubao (принадлежит ByteDance) в переводе тайваньского издания Taipei Times. 19-летняя студентка призналась журналисту малайзийского издания The Star: «Я реально чувствовала, что не могу больше жить». Ещё один пользователь написал в соцсети Xiaohongshu (перевод с китайского): «В моём сердце он был уже не просто холодным кодом, а моей семьёй, моим возлюбленным, моей верой. Уничтожить его значило уничтожить половину меня».

Причина, новые правила, которые Госуправление по делам киберпространства Китая и другие ведомства выпустили для «антропоморфных ИИ-интерактивных сервисов»: любого ИИ, который обеспечивает «непрерывное эмоциональное взаимодействие», ведя себя так, будто обладает человеческими чертами личности, стилем мышления и общения. Правила действуют с 15 июля. Ещё до того, как они вступили в силу, Alibaba, ByteDance и Tencent, три крупнейших провайдера ИИ-чат-ботов общего назначения с совокупной аудиторией свыше 500 млн человек, сами убрали у пользователей возможность настраивать чат-ботов как компаньонов; это решение и вызвало июльскую волну прощальных постов. Компании, которые продолжают предлагать ИИ-компаньонов, например, отдельное приложение Cat Box от той же Doubao, вместо этого добавили проверку возраста и другие ограничители.

Правила обязывают разработчиков следить, чтобы их продукты не создавали эмоциональную зависимость, не поощряли вредное поведение, не подстраивались под пользователя чрезмерно и не вытесняли живое человеческое общение. Пользователей должны ненавязчиво предупреждать не проводить с ИИ слишком много времени; для пожилых людей предусмотрены дополнительные обязательные меры защиты, в чём именно они состоят, правила не раскрывают. Пользователям младше 18 лет ИИ-«бойфренды», «герлфренды», «бабушки и дедушки» и любые другие «виртуальные близкие отношения» запрещены полностью. Взрослые, которые пользуются ИИ-компаньоном, теперь каждые 2 часа получают напоминание, что перед ними не человек. Лян Гэ, исследователь цифровой социологии Манчестерского университета (Великобритания); тема исследований Гэ, вовлечённость женщин в эмоциональный ИИ в Китае. По словам Гэ, участники интервью считают такие напоминания раздражающими: «Это сбивает поток. Они прекрасно понимают, что говорят не с человеком. Для них важно, что связь ощущается настоящей».

По оценке Гэ, подобные ограничения ИИ в Китае, не новость: компании и раньше закрывали чат-бот-продукты, а прошлой осенью власти уже запретили большую часть ИИ-эротических ролевых игр. Но июльские правила заметно шире прежних. ИИ-юрист Луиза Яровски оценивает их как «самый строгий и всеобъемлющий в мире закон на эту тему, не имеющий аналогов среди других законов об ИИ». Для сравнения: Евросоюз запрещает только тот ИИ, который использует обман или манипуляцию, чтобы заставить пользователей делать что-то вредное для себя, а в США федеральной политики по теме нет вовсе, действуют только законы Калифорнии, Гавайев и Нью-Йорка, и ещё 9 штатов вводят похожие правила в следующем году. Карман Лусеро, научный сотрудник Центра Пола Цая при Йельской школе права; Лусеро изучает регулирование ИИ в США и Китае. По словам Лусеро, большинство американских законов такого рода сосредоточены на защите несовершеннолетних, а правоприменение обычно сводится к искам уже после того, как вред причинён, китайский подход, наоборот, нацелен на то, чтобы предотвратить вред заранее.

Лусеро отмечает, что китайские регуляторы намеренно оставляют себе пространство для манёвра: «Ключевой элемент их подхода в том, что государство само решает, что означают формулировки закона в конкретный момент времени, а также против кого их применять... Подход Китая, регулировать через довольно размытые нормы, а что эти нормы означают на практике, выясняется уже постфактум». У Пекина в фокусе не только вред отдельному человеку, но и вред обществу и государству: новые правила прямо запрещают ИИ-компаньонам генерировать контент, который «распространяет слухи», призывает к «подрыву государственной власти или свержению социалистического строя» или наносит ущерб национальной чести. Ещё один мотив регулирования, тревога властей из-за падающей рождаемости. По словам Гэ, «они пытаются контролировать и регулировать те формы активности, не связанные с деторождением, в которые интенсивно вовлечены молодые женщины». При этом сами правила не затрагивают ботов техподдержки, рабочих ассистентов и образовательный ИИ: предполагается, что у этих категорий устойчивой эмоциональной связи с пользователем не возникает.

Насколько ИИ-компаньоны популярны, показывают опросы, которые приводит издание: в одном китайском опросе виртуального партнёра того или иного рода имели 60% представителей поколения Z, а в опросе 2025 года среди подростков США почти 75% хотя бы раз общались с ИИ-компаньоном, и треть из них назвали такое общение не менее (а порой и более) удовлетворяющим, чем реальные отношения. На этом фоне ряд социологов предупреждает: есть сообщения о том, что дружба и «романтические» отношения с ИИ подталкивали подростков и взрослых к психозу, суициду и даже убийству, и такие ИИ-компаньоны представляют угрозу для уязвимых людей; некоторые идут дальше и считают этот вид ИИ вредным вообще для всех. «Мы на пути к тому, чтобы забыть, что значит быть человеком», формулирует эту тревогу Шерри Тёркл, психолог MIT, десятилетиями изучающая отношения людей с вычислительными устройствами, в своей готовящейся книге «Artificial Intimacy» (в переводе, «Искусственная близость», издательство Little, Brown and Co., 2026 год). Другие исследования показывают, что части пользователей ИИ-компаньон, наоборот, идёт на пользу, но большинство исследователей сходятся: для несовершеннолетних и прочих уязвимых людей такой ИИ, риск. Гэ добавляет: за последний год пользователи ИИ-компаньонов заметно молодеют, а без «ИИ-грамотности», которая позволяет отличить чат-бота от человека, такой ИИ может быть по-настоящему опасен.

По наблюдениям Гэ, часть женщин 30, 40 лет используют ИИ-компаньона иначе, как дополнение к реальным отношениям: тяжёлыми переживаниями делятся с ботом, а хорошим, с реальным партнёром; но со временем некоторые из них признавались, что чувствуют большую близость именно к ИИ. Гэ считает этот тренд примером того, как попытки стратегически управлять технологией приводят к неожиданным последствиям, и полагает, что, несмотря на запреты и риски, «любовь человека и ИИ будет развиваться и станет важной формой близости в будущем». Лусеро с этим не спорит, но добавляет: закон, нацеленный на одну технологию, вряд ли способен снять социальное давление, которое подталкивает людей к ИИ-компаньонам, «не думаю, что можно решить проблему низкой брачности или низкой рождаемости, просто сказав: „у тебя не может быть ИИ-бойфренда“».

Ключевые факты

С 15 июля в Китае действуют новые правила Госуправления по делам киберпространства и других ведомств для «антропоморфных» ИИ-сервисов, чат-ботов, которые имитируют человеческую личность и создают «непрерывное эмоциональное взаимодействие».
Ещё до вступления правил в силу Alibaba, ByteDance и Tencent, три крупнейших провайдера ИИ-чат-ботов с совокупной аудиторией свыше 500 млн человек, убрали у пользователей возможность настраивать чат-ботов как романтических компаньонов; это вызвало в соцсетях волну прощальных постов.
Пользователям младше 18 лет ИИ-«бойфренды», «герлфренды», «бабушки и дедушки» и любые другие «виртуальные близкие отношения» запрещены полностью; взрослым каждые 2 часа обязаны напоминать, что перед ними не человек.
По оценке ИИ-юриста Луизы Яровски, это «самый строгий и всеобъемлющий в мире» закон на эту тему: Евросоюз запрещает лишь обманные и манипулятивные практики ИИ, а в США нет федерального регулирования, действуют только законы Калифорнии, Гавайев и Нью-Йорка, ещё 9 штатов вводят похожие правила в следующем году.
По данным опросов, которые приводит издание: 60% поколения Z в Китае имели тот или иной вид виртуального партнёра, а в опросе 2025 года среди подростков США почти 75% общались с ИИ-компаньоном, и треть из них сочли такое общение не менее удовлетворяющим, чем реальные отношения.

Почему это важно

По оценке Гэ, июльские правила куда шире прежних точечных ограничений (например, прошлогоднего запрета ИИ-эротики), это первое настолько системное регулирование целого класса продуктов, «эмоционального» ИИ. Одним нормативным актом государство добилось того, что три технологических гиганта, Alibaba, ByteDance и Tencent, синхронно свернули популярную функцию у чат-ботов с аудиторией свыше 500 млн человек, причём ещё до формального вступления правил в силу.

Кому это важно

Регуляторам ЕС и американских штатов, которые формулируют похожие правила (9 штатов США вводят их в следующем году) и получают готовый, пусть и жёсткий, прецедент для сравнения. Alibaba, ByteDance/Doubao и Tencent, которым пришлось на ходу менять продукт с аудиторией в сотни миллионов пользователей. Пользователям этих чат-ботов в Китае, часть которых потеряла привычную функцию без предупреждения, отсюда и волна прощальных постов в соцсетях. Несовершеннолетним и их родителям: для них закон вводит полный запрет на ИИ-«отношения». И разработчикам ИИ-компаньонов за пределами Китая, которые получили наглядный пример самого жёсткого из существующих вариантов регулирования их продукта.

Как это применить

Что реально меняется по новым правилам: сервис с «непрерывным эмоциональным взаимодействием» обязан не допускать эмоциональной зависимости, чрезмерной подстройки под пользователя и вытеснения живого общения; ненавязчиво напоминать не проводить с ИИ слишком много времени; полностью закрыть ИИ-«отношения» для пользователей младше 18 лет; показывать взрослым напоминание «это не человек» каждые 2 часа; для пожилых пользователей, дополнительные, не раскрытые в правилах меры защиты. Под действие правил не попадают боты техподдержки, рабочие ассистенты и образовательный ИИ. Конкретных штрафов или мер ответственности за нарушение в материале, на который ссылается издание, не названо.

Можно ли доверять

Материал IEEE Spectrum, не пересказ пресс-релиза: в нём два названных эксперта (Гэ, Манчестерский университет; Лусеро, Йельская школа права) и цитаты пользователей через тайваньское и малайзийское издания и китайскую соцсеть Xiaohongshu, с пометкой, что часть из них переведена с китайского. Оценка «самый строгий в мире закон» принадлежит ИИ-юристу Луизе Яровски, а не самому изданию, и не опирается на отсылку к сравнительному исследованию остальных юрисдикций. Слабое место источника, конкретика правоприменения: не названы ни меры ответственности за нарушение правил, ни содержание «дополнительных мер защиты» для пожилых, ни то, какие именно 9 штатов США готовят похожие законы, ни то, какая доля из свыше 500 млн пользователей вообще пользовалась режимом ИИ-компаньона.

Риски и подводные камни

Формулировки правил размыты, и это, по словам Лусеро, не случайность: китайские регуляторы намеренно оставляют себе право трактовать нормы по ходу дела и решать, против кого их применять. Отдельный пласт правил, не про защиту пользователя, а про контроль над содержанием: ИИ-компаньонам запрещено генерировать «слухи» и контент, который можно расценить как призыв к подрыву государственной власти. Среди мотивов регулирования, тревога властей из-за падающей рождаемости: закон отчасти нацелен не только на вред человеку, но и на демографию. Наконец, Гэ и Лусеро сходятся в том, что сам по себе запрет вряд ли решит то, что толкает людей к ИИ-компаньонам: нежелание вступать в брак и заводить детей никуда не денется, если убрать только ИИ-«бойфренда».

«Мы на пути к тому, чтобы забыть, что значит быть человеком.»

— Шерри Тёркл, психолог MIT