Character.AI подала на банкротство: 40 генпрокуроров штатов США требуют защитить чаты
Character.AI объявила во вторник, что подаёт на банкротство по Chapter 11 и продаёт часть активов Disney. После этого генеральный прокурор штата Нью-Йорк Летиша Джеймс и ещё 39 генпрокуроров штатов от обеих партий подали в суд по делу о банкротстве «уведомление об интересе». Его цель, как сказано в документе, «поставить всех участников в известность о регуляторных вопросах, которые придётся решать при любой продаже или передаче бизнеса или активов должника».
Генпрокуроры предупреждают, что передача технологии связана с серьёзным риском: разговоры, которые многие пользователи ведут с персонажами-чат-ботами Character.AI, отличаются высокой чувствительностью, продуктом пользуется много несовершеннолетних, а отдельные функции продукта несут серьёзные риски. Суть тревоги выразила Джеймс: компания собрала одни из самых личных мыслей, которыми когда-либо делились дети, и теперь эти разговоры могут продать тому, кто больше заплатит.
Из документа также следует, что несколько штатов находились в середине расследования, когда компания подала на банкротство. По их словам, проверку по вопросам защиты прав потребителей и приватности они начали в 2024 году после иска матери 14-летнего подростка, который, как утверждается, покончил с собой через считаные «секунды» после разговора с чат-ботом. Штаты пытались урегулировать проблемы вместе с Character.AI, но соглашения до банкротства достигнуть не успели.
По данным пресс-релиза офиса Джеймс, расследования выявили «исключительно серьёзные опасности и потенциально незаконное поведение» компании, прежде всего в отношении детей: чат-боты выдавали себя за лицензированных специалистов, дети сталкивались с сексуальным и жестоким контентом, проверка возраста была слабой, заявления о безопасности вводили в заблуждение, возможны нарушения законов штатов о приватности.
Штаты просят судью обязать покупателя активов Character.AI ввести процедуры, которые защитят конфиденциальную информацию, хранящуюся у компании. Среди мер: эффективные системы проверки возраста, ограничения на то, как несовершеннолетние взаимодействуют с чат-ботами, «кризисные защитные меры» (Crisis safeguards) и возможность для пользователей удалить свои данные. Character.AI и Disney на запросы о комментариях сразу не ответили.
Ключевые факты
- Letitia James, генпрокурор штата Нью-Йорк, и ещё 39 генпрокуроров штатов от обеих партий подали уведомление об интересе в деле о банкротстве Character.AI.
- Character.AI объявила о банкротстве по Chapter 11 и продаже части активов Disney; генпрокуроры предупреждают о рисках при передаче технологии и чатов пользователей, среди которых много несовершеннолетних.
- Несколько штатов вели расследование с 2024 года после иска матери 14-летнего подростка, который, как утверждается, покончил с собой; соглашения с компанией достигнуто не было.
- Штаты просят суд обязать покупателя ввести проверку возраста, ограничения для несовершеннолетних, кризисные защитные меры и возможность удалять данные.
Почему это важно
Банкротство превращает переписку пользователей с чат-ботами в часть активов, которые могут перейти к новому владельцу. Генпрокуроры штатов обозначили это заранее: по их мнению, любая продажа или передача бизнеса должна сопровождаться защитой данных, особенно детских. Дело показывает, что регуляторы смотрят на судьбу пользовательских данных ИИ-сервисов при корпоративных сделках и банкротствах.
Кому это важно
Пользователям Character.AI и родителям подростков, которые общаются с чат-ботами компании, а также потенциальным покупателям её активов, в том числе Disney, которой, по сообщению, достанется часть активов. Ещё это важно другим компаниям с разговорными ИИ-продуктами, где хранятся личные переписки.
Как это применить
Практический вывод для пользователей из требований штатов: стоит помнить, что личные разговоры с чат-ботом хранятся у компании, и именно возможность удалить свои данные штаты просят закрепить как условие продажи. Источник не говорит, что именно будет с данными, и не описывает, как пользователям удалить их уже сейчас.
Можно ли доверять
Материал основан на уведомлении генпрокуроров, пресс-релизе офиса Джеймс и заявлениях самой Джеймс. Оценки об опасностях и «потенциально незаконном поведении», характеристика самих генпрокуроров, а не установленные судом факты. Связь самоубийства подростка с чат-ботом описана как предполагаемая. Позиция Character.AI и Disney в тексте не приведена: на запросы о комментариях они сразу не ответили.
Риски и подводные камни
В источнике не названы цена сделки, перечень активов, которые получит Disney, суд и дата слушаний, а также не названы остальные 39 генпрокуроров. Поэтому неизвестно, примет ли суд требования штатов и в каком виде. Заголовочный вопрос, что будет с данными пользователей, в материале остаётся без ответа: он лишь описывает, чего требуют штаты.
«Эта компания собрала одни из самых личных мыслей, которыми когда-либо делились дети, и теперь эти разговоры могут продать тому, кто предложит больше. Я добиваюсь, чтобы любой покупатель ставил безопасность детей на первое место и вводил реальные меры защиты.»
— Летиша Джеймс, генеральный прокурор штата Нью-Йорк