Anthropic передала полиции запись из Claude: жительнице Флориды грозит обвинение

Жительница города Бонита-Спрингс во Флориде Карли Мишель Хеллер столкнулась с уголовным обвинением в письменной угрозе насилием. Согласно протоколу задержания, 26 сентября она написала в Claude, что нападёт на управление шерифа (в тексте источника, «shoot up», то есть «устроить стрельбу»). Позже она сказала, что пользуется чат-ботом Anthropic как «дневником».

Запись пометили системы безопасности Claude, после чего передали на проверку человеку. Тот решил, что угроза реальная, и сообщил о ней правоохранительным органам. Компания заявляет, что может делиться данными пользователей в ограниченных экстренных случаях, если считает раскрытие необходимым для предотвращения смерти или серьёзного вреда здоровью.

Помощники шерифа установили личность Хеллер и приехали к ней домой. Её задержали без происшествий, после чего расследование принял детектив разведывательного отдела LCSO (так в источнике названо ведомство шерифа).

Обвинение предъявлено по статье 836.10 законов Флориды. Она делает преступлением второй степени тяжести отправку, публикацию или передачу письменной либо электронной записи с угрозой убить или ранить человека, устроить массовую стрельбу или совершить теракт. Сообщение при этом должно быть сделано так, чтобы его мог увидеть другой человек.

Издание проводит параллель с историями вокруг OpenAI. Как сообщалось в прошлом месяце, провинция Британская Колумбия подала иск к OpenAI и Сэму Альтману: по версии истцов, компания могла предотвратить массовое убийство в канадской провинции. Стрелявшая, 18-летняя бывшая ученица Джесси Ван Рутселаар, ранее попадала в поле зрения службы безопасности OpenAI из-за разговоров о насилии с оружием, но полиции компания не сообщала: переписка не достигала порога для передачи в правоохранительные органы. В июне Флорида также подала иск к OpenAI и Альтману, утверждая, что ChatGPT способствовал реальному вреду, включая стрельбу в Университете штата Флорида в 2025 году.

Вывод издания: это напоминание думать, что вы пишете чат-боту, ведь это точно не личный дневник, содержимое которого видите только вы. В качестве дополнения приводятся сообщения прошлого месяца о том, что подрядчики, проверяющие графический редактор Microsoft Copilot, видят запросы пользователей, загруженные фото и результаты правок; документы показывают, что часть заданий содержит сексуальные, тревожные или потенциально незаконные материалы, но проверяющие должны не отмечать такой контент, а лишь оценивать точность результата.

Ключевые факты

Карли Мишель Хеллер из Бонита-Спрингс (Флорида) обвиняется в письменной угрозе насилием: по протоколу, 26 сентября она написала в Claude, что нападёт на управление шерифа.
Запись пометили системы безопасности Claude; проверяющий человек счёл угрозу реальной и сообщил правоохранителям.
Обвинение предъявлено по статье 836.10 законов Флориды: это преступление второй степени тяжести, если сообщение доступно для просмотра другому человеку.
Сама Хеллер говорит, что пользуется чат-ботом как «дневником».
Издание сопоставляет случай с делами против OpenAI: иск Британской Колумбии из-за массовой стрельбы и иск Флориды, поданный в июне.

Почему это важно

Случай показывает, что запись в чат-боте, воспринимаемая как личный дневник, может дойти до полиции: сначала её отмечают автоматические системы безопасности, затем человек-проверяющий решает, передавать ли её правоохранителям. Одновременно против OpenAI идут иски из-за того, что компания не сообщила о тревожных разговорах, так что подход к таким сигналам становится вопросом ответственности для разработчиков чат-ботов.

Кому это важно

Пользователям чат-ботов, которые ведут в них личные записи или обсуждают эмоциональные темы. Также командам, которые отвечают за политику безопасности и порядок обращения в правоохранительные органы в ИИ-компаниях, и юристам, следящим за ответственностью разработчиков.

Как это применить

Практический вывод, который делает источник: думайте, прежде чем вводить в чат-бот то, что может доставить неприятности; это не личный дневник. Условие Anthropic по данным пользователей в источнике сформулировано так: компания может делиться ими в ограниченных экстренных случаях, когда раскрытие необходимо для предотвращения смерти или серьёзного физического вреда.

Можно ли доверять

Материал, новостной пересказ дела по протоколу задержания; формулировки об угрозе даны как «предположительно» и со ссылкой на протокол. Сам протокол и ответ Anthropic по этому делу в тексте не приведены, а заявление о передаче данных относится к компании в целом. Точная запись целиком не раскрыта, известна только фраза «shoot up».

Риски и подводные камни

Неизвестны год записи, дата задержания, стадия дела (предъявлено ли обвинение в суде, признала ли Хеллер вину, отпущена ли она), а также то, как именно сработали системы безопасности Claude. Обвинение пока лишь версия следствия, а позиция самой Хеллер ограничивается тем, что она назвала чат-бот «дневником». Остаётся и общий вопрос порога: где проходит граница между мрачной записью и реальной угрозой, решает человек-проверяющий.