Экс-сотрудник Anthropic заявил, что коллеги ждут гибели человечества от ИИ, Брайан Кантрилл назвал это паникёрством
Саймон Уиллисон в своём блоге 14 сентября 2026 года сослался на пост Брайана Кантрилла, ответившего на твит бывшего сотрудника Anthropic Джейкоба Коксона. Коксон заявил, что многие исследователи Anthropic верят: ИИ способен убить всё человечество к концу десятилетия.
Кантрилл называет это голословной экстраполяцией в будущее: Коксон приводит в пример «взлом критической инфраструктуры» и «биооружие уровня вымирания», но не раскрывает, как именно ИИ к этому приведёт, при этом сам не является экспертом ни в критической инфраструктуре, ни в биологическом оружии, ни тем более в вымирании видов.
По мнению Кантрилла, от публики нельзя ожидать понимания устройства больших языковых моделей, критической инфраструктуры, биооружия или биологии вымирания, эта нагрузка должна лежать на тех, кто делает такие заявления. Эксперты пользуются доверием публики именно в силу своей экспертизы, и это доверие нельзя злоупотреблять: делая громкие заявления, особенно тревожные, нужно быть предельно осторожным в формулировках.
Свои сомнения по поводу угрозы биооружия от ИИ Кантрилл высказывал раньше, в выпуске подкаста Oxide and Friends, в котором участвовал и сам Уиллисон (комментарии Кантрилла на эту тему начинаются с отметки 51:44). Кантрилл говорит, что тема биооружия его особенно задевает, потому что она оставляет слишком много простора для воображения, которое люди заполняют страхом, и предлагает привлечь к обсуждению настоящего биолога или человека с опытом в теме биооружия, а не строить пугающие догадки без экспертизы.
Ключевые факты
- Джейкоб Коксон, бывший сотрудник Anthropic, заявил в твите, что многие исследователи компании верят: ИИ может убить всё человечество к концу десятилетия.
- Брайан Кантрилл назвал это голословной экстраполяцией: Коксон приводит «взлом критической инфраструктуры» и «биооружие уровня вымирания» без подробностей, не будучи экспертом ни в одной из этих тем.
- Кантрилл: раз от публики нельзя ожидать понимания LLM, инфраструктуры, биооружия и биологии вымирания, ответственность за осторожность формулировок лежит на тех, кто делает громкие заявления, злоупотреблять доверием публики нельзя.
- В более раннем выпуске подкаста Oxide and Friends Кантрилл отдельно говорил, что тема биооружия его раздражает из-за простора для страха и воображения, и предложил привлечь к разговору настоящего биолога.
- Пост Уиллисона, ссылка на реакцию Кантрилла; сам твит Коксона и дата его публикации в источнике не приводятся.
Почему это важно
Разговоры о экзистенциальном риске ИИ всё чаще звучат от людей, связанных с самими ИИ-компаниями, включая Anthropic, публично позиционирующую себя вокруг темы безопасности. Кантрилл поднимает вопрос о том, кто вправе делать такие заявления и на каком основании: громкое предупреждение о вымирании человечества, брошенное без экспертизы в конкретных областях (биооружие, критическая инфраструктура), само по себе становится источником паники.
Кому это важно
Тем, кто следит за публичной дискуссией о рисках ИИ и формирует своё мнение на основе заявлений людей, связанных с ИИ-индустрией; журналистам и комментаторам, пересказывающим такие заявления дальше; специалистам по безопасности ИИ, которым важно, чтобы серьёзная тема не обесценивалась голословными страшилками.
Как это применить
Читателю стоит проверять, стоит ли за громким предупреждением об ИИ реальная экспертиза в конкретной предметной области (биология, инфраструктура и так далее), или это экстраполяция человека без такого бэкграунда, и искать, высказывались ли по теме настоящие профильные специалисты, прежде чем принимать заявление на веру.
Можно ли доверять
Это мнение одного специалиста (Кантрилла) о заявлении другого человека (Коксона), пересказанное через ссылку в блоге Уиллисона; сам твит Коксона в источнике не приводится целиком, дата его публикации не указана, а собственная экспертиза Кантрилла в темах, о которых он рассуждает, в тексте тоже не раскрыта. Материал, личная позиция и полемика, а не независимая проверка исходного заявления.
Риски и подводные камни
Есть риск, что скепсис по поводу конкретных голословных заявлений будет прочитан как отрицание экзистенциальных рисков ИИ в целом, Кантрилл возражает не против самой темы, а против непрофессиональных догадок вместо экспертизы. Обратный риск, эффект «мальчика, который кричал „волк!“»: если тревожные заявления регулярно оказываются необоснованными, это подрывает доверие и к обоснованным предупреждениям, когда они появятся.
«Я правда считаю, что нужно быть осторожнее, потому что так легко поддаться страху, когда мы вот так придумываем... что это может дать биологическое оружие. Как? Может, пусть выскажется биолог? Или кто-то, у кого есть опыт в теме биооружия? […] Эта история с биооружием прямо бесит меня, потому что оставляет слишком много простора для воображения, которое мы заполняем страхом.»
— Брайан Кантрилл, подкаст Oxide and Friends