Anthropic подала S-1 на 335 страниц: «эра чудес» и 94 страницы рисков

The Verge публикует комментарий к 335-страничному проспекту (форма S-1), который Anthropic подала в понедельник. По оценке издания, документ, очередной виток нарастающей риторики Кремниевой долины в разговоре с Уолл-стрит: громкие обещания и жёсткий финансовый питч сталкиваются в нём лоб в лоб. Для сравнения издание напоминает, что SpaceX вышла на биржу в июне после S-1, где упоминались динозавры и «колонизация Марса». Одних только факторов риска у Anthropic 94 страницы.

В письме основателей, открывающем документ, покупателей акций просят «не думать о покупке в чисто транзакционном ключе» и увидеть в ней возможность «стать частью чего-то большего». Развитие продвинутого ИИ там названо одним из ключевых моментов в истории человечества, а цель сформулирована так: помочь человечеству пройти этот технологический переход безопасным курсом, открыть новые рубежи познания и «принести эру чудес». При этом в самом S-1 предупреждается, что в случае ошибок последствия могут быть катастрофическими. Среди описанных опасностей, риск того, что модели будут «вести себя так, как не задумывали ни пользователь, ни разработчик», и это приведёт к «катастрофическим» инцидентам, которые не смогла бы застраховать вся страховая отрасль.

Страница 46, по выражению издания, главный «скример» документа. Там сказано, что опасения о том, что ИИ без должных мер защиты, надзора и безопасности создаёт «катастрофические или экзистенциальные риски для человечества», высказывались и внутри самой организации, и внешними исследователями, регуляторами, политиками и участниками отрасли. Сразу за этим следует фраза о том, что разработка всё более продвинутых моделей и расширение сценариев использования могут дополнительно повысить риск причинения ими вреда. Издание напоминает, что Anthropic известна как сторонник «апокалиптических» сценариев ИИ, и что, по его словам, глава компании Дарио Амодеи говорил о вероятности до 25 процентов того, что дальнейшее развитие ИИ приведёт к вымиранию человечества (где и когда он это сказал, в тексте не уточняется).

Исторический контекст даёт Джей Риттер, профессор бизнес-школы Warrington Университета Флориды. По его словам, проспект Apple Computer 1980 года занимал 47 страниц и не содержал ни одного фактора риска. Поворотным моментом он называет S-1 Facebook: 200 страниц, из них 22, риски; письмо Марка Цукерберга инвесторам было манифестом его подхода «двигайся быстро и ломай вещи», названного «The Hacker Way». Риттер считает, что у такой раздутости есть минус: всё труднее найти действительно важное, и чем длиннее документ, тем меньше желания его читать.

Обилие информации основатели Anthropic объясняют стратегией «антипродажи» (anti-sell): она должна привлечь долгосрочных инвесторов, верящих в их видение. В письме сказано, что опасно, когда люди покупают акции исходя из ожиданий, которые компания не сможет оправдать, а это созвучно принципу Anthropic «обещай меньше, делай больше». Часть признаний в S-1 звучит неожиданно: компания может делать «упреждающие инвестиции, которые могут показаться безответственно крупными», а вопросы безопасности, интерпретируемости, согласованности (alignment) и благополучия моделей могут заставить её ограничить или отложить вывод из эксплуатации старых моделей. Издание связывает это с заявленной политикой «радикальной честности».

Основа питча, по мнению The Verge, заверение, что, несмотря на риски, компания привержена созданию безопасного ИИ. Выйти на биржу она собирается как общественно-полезная корпорация (public benefit corporation), которая, в отличие от обычных C-corporation, обязанных максимизировать стоимость для акционеров, должна ставить социальную миссию наравне с интересами акционеров. «Мощный ИИ», термин Anthropic для гипотетического будущего ИИ, превосходящего коллективный человеческий интеллект, подаётся в S-1 как неизбежный; если он придёт в любом случае, то вести эту гонку должна именно такая компания. Но для этого нужно очень много денег, возможно, неограниченно. А как писала Лиз Лопатто, мощный ИИ (в виде резкого рекурсивного самоулучшения) может быть едва ли не единственным способом для Anthropic остаться впереди конкурентов и выжить. В письме основателей сказано, что «ИИ-экспонента» создаст столько ценности, что в долгосрочной перспективе она с лихвой перевесит краткосрочные экономические жертвы ради миссии.

Пробелы в документе тоже есть. Нет ключевых данных для оценки прибыльности, например результатов третьего квартала. Во втором квартале выручка Anthropic выросла взрывным образом, но, как отмечает издание, это был пик «токенмаксинга» (tokenmaxxing), который мог привести к скачку продаж. Операционные убытки во втором квартале сократились, однако S-1 раскрывает финансовые обязательства на сотни миллиардов долларов ради вычислительных мощностей, необходимых для роста, и планы начать строить собственную инфраструктуру дата-центров, по оценке издания, это дорогой шаг, который ударит по прибыли. Риттер полагает, что по мере приближения даты IPO результаты третьего квартала, вероятно, опубликуют, а в остальном, по его словам, «никто не знает», что произойдёт после выхода компании на биржу, в том числе сама компания.

Риттер напоминает, что первые 22 года Apple была для инвесторов в основном неудачей, а в первые три года заметно отставала от рынка, «а сейчас она стоит, сколько, 5 триллионов долларов?». WeWork в 2019 году высмеивали за возвышенную риторику S-1, особенно за строчку о стремлении «возвысить сознание мира», но то, по словам Риттера, было иное: убыточная компания недвижимости, притворявшаяся технологической, при нелепо завышенной оценке, и «не было шанса когда-либо получать большие прибыли». Формально, замечает издание, это риск и для Anthropic: на странице 63 S-1 сказано, что у компании есть история чистых убытков и она может не выйти на устойчивую прибыль. Финал статьи: «Впрочем, это же эра чудес».

Ключевые факты

Проспект Anthropic (форма S-1) занимает 335 страниц, из них 94, факторы риска; подан в понедельник (точная дата в тексте не указана).
Письмо основателей обещает «эру чудес» и просит не воспринимать покупку акций как чисто транзакционную, а сам документ признаёт «катастрофические или экзистенциальные риски для человечества» (стр. 46).
Для сравнения: проспект Apple 1980 года, 47 страниц без факторов риска, у Facebook, 200 страниц с 22 страницами рисков (по словам профессора Джея Риттера).
Пробелы в раскрытии: нет результатов третьего квартала; рост выручки во втором квартале пришёлся на пик «токенмаксинга»; обязательства на вычислительные мощности, сотни миллиардов долларов.
На странице 63 перечислен риск «истории чистых убытков», а Anthropic выйдет на биржу как общественно-полезная корпорация.

Почему это важно

Одна из ведущих ИИ-лабораторий готовится выйти на биржу, и её проспект сочетает пророческую риторику («эра чудес») с прямым признанием экзистенциальных рисков. По оценке The Verge, это новая веха в том, как технологические компании обращаются к Уолл-стрит. Контекст даёт сравнение: проспект Apple 1980 года, 47 страниц без рисков, у Anthropic, 335 страниц, из них 94 о рисках.

Кому это важно

Инвесторам и аналитикам, следящим за возможным IPO ИИ-лабораторий; тем, кто оценивает финансовую устойчивость поставщиков моделей (убытки, обязательства на сотни миллиардов долларов по вычислительным мощностям, планы по собственным дата-центрам); специалистам по регулированию и безопасности ИИ, для которых показательно, как риски описаны в юридическом документе.

Как это применить

Практический вывод из материала: при чтении подобных проспектов отделять письмо основателей от разделов о рисках и отдельно искать то, чего в документе нет (в этом S-1, результатов третьего квартала). Профессор Риттер замечает, что из-за объёма сложно найти главное, поэтому стоит заранее выделить ключевые разделы: факторы риска, убытки (стр. 63), обязательства по вычислительным мощностям. Это не инвестиционная рекомендация: материал её не даёт.

Можно ли доверять

Это комментарий The Verge с оценочными формулировками, а не нейтральная сводка. Он опирается на первичный документ (цитаты из S-1 и письма основателей) и на слова Джея Риттера, профессора Warrington College of Business Университета Флориды. Данные о вероятности вымирания до 25 процентов издание приписывает Дарио Амодеи, не указывая, где и когда это было сказано. Цифр выручки, убытков, оценки компании и параметров размещения в тексте нет.

Риски и подводные камни

Текст не доказывает, что рост продаж во втором квартале раздут «токенмаксингом»: издание лишь говорит, что это могло случиться. Результаты третьего квартала отсутствуют, а публикация их до IPO, предположение Риттера («вероятно»), не факт. Масштаб обязательств известен лишь как «сотни миллиардов долларов», без точной суммы и контрагентов. Строительство собственных дата-центров, по оценке издания, ударит по прибыли, а сама компания в S-1 признаёт историю чистых убытков и возможную неспособность выйти на устойчивую прибыль.

«Мы просим не думать о покупке в чисто транзакционном ключе. Мы надеемся, что вы увидите в ней возможность стать частью чего-то большего.»

— из письма основателей Anthropic в S-1 (в передаче The Verge)

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.