Anthropic и OpenAI готовятся к IPO, НКО выстроились за деньгами будущих миллиардеров

Райан Кэрриер десять лет назад был неудачливым управляющим хедж-фонда, который наблюдал, как алгоритмы Facebook раскачивали выборы в США, чат-бот Microsoft называл холокост «выдумкой», а автопилот Tesla убил своего первого водителя. Не увидев у ИИ-индустрии никакого управления, надзора и ответственности, он основал некоммерческую организацию ForHumanity, разрабатывающую инструменты для аудита ИИ-систем. С 2016 года она собрала лишь несколько сотен тысяч долларов и остаётся мелким игроком, но это может измениться.

Две ИИ-компании с оценкой, близкой к триллиону долларов, разработчик ChatGPT OpenAI и создатель Claude Anthropic, готовятся в ближайшее время выйти на биржу; IPO Anthropic может состояться уже в сентябре. Это сделает сверхбогатыми сотни нынешних и бывших сотрудников, часть которых придерживается философии эффективного альтруизма, призывающей делать крупные пожертвования как можно раньше. Семеро основателей Anthropic пообещали отдать 80% своего состояния, а сама компания согласилась добавлять одну-три акции на каждую акцию, которую сотрудник обязуется передать на благотворительность (условия зависят от стажа и ограничены потолком).

По грубой оценке инсайдера из технологической отрасли, только IPO Anthropic может добавить $15 млрд в год к благотворительным пожертвованиям в США, это увеличит общий объём американской филантропии примерно на 2,5% в год, как если бы разом появилось четыре Билла Гейтса. Anthropic отказалась комментировать, сколько именно сотрудники отложили на пожертвования и какие организации могут получить эти деньги. Все эти суммы не гарантированы: IPO может задержаться или пройти неудачно, а обилие вариантов для пожертвований и обычная непостоянность людей могут привести к тому, что сотрудники оставят деньги себе.

Конкуренция за будущих доноров уже сейчас острая. Консультант Джек Льюарс, в прошлом году помогавший 13 разбогатевшим сотрудникам техкомпаний и финансового сектора с благотворительностью, говорит, что сотрудники ИИ-лабораторий получают до 20 незапрошенных писем в неделю от организаций, ищущих пожертвования. При этом, как он написал в своём блоге The Funding Anthropalypse, холодные обращения «практически не имеют шансов сработать». Издание WIRED поговорило с 18 некоммерческими организациями и обратилось ещё к нескольким десяткам, спрашивая, как они готовятся к возможному притоку денег. Ни одна не призналась в рассылке холодных писем, вместо этого организации наращивают найм сотрудников, обучение, маркетинг и автоматизацию. Одна из образовательных НКО прямо указала в вакансии, что выстраивание отношений именно с Anthropic, приоритет.

Кристин Питерсон, сооснователь грантодающей организации Foresight Institute (заявляет, что уже получает финансирование от сотрудников Anthropic), говорит: «Все бросятся за этими деньгами. Будет дикая гонка». Сам Кэрриер из ForHumanity признаётся, что теперь думает, как попасть на IPO-вечеринки в Сан-Франциско. Бо Янг Ли, глава организации AI4ALL, которая обучает молодых людей по всей стране создавать ИИ-модели, чаще ходит на мероприятия, публикует больше исследований и просит членов совета директоров, например, ИИ-учёную и предпринимателя Фей-Фей Ли, знакомить её с сотрудниками ИИ-лабораторий; вводных встреч пока не случилось, но фандрайзинговые цели она ставит «амбициозные».

Бак Шлегерис, гендиректор беркли-организации Redwood Research, занимающейся безопасностью ИИ, считает, что охотиться за отдельными донорами, не лучшая стратегия: Redwood уже получает миллионы долларов через грантодающие организации Coefficient Giving и Survival and Flourishing Fund, которые собирают пожертвования от частных лиц, разделяющих идеи эффективного альтруизма, и, по его мнению, новые деньги потекут именно через эти каналы. Он хочет ускорить обучение сотрудников на менеджерские роли в расчёте на рост команд и «безумно дорогие проекты», вплоть до автоматизации исследований безопасности и обучения собственных моделей Redwood; цель организации, снизить риск того, что ИИ приведёт к вымиранию человечества, и, по словам Шлегериса, у этого риска, как он опасается, «действительно высокие шансы» реализоваться.

Венчурный инвестор Джефф Ралстон, соавтор плана действий по биобезопасности в сфере ИИ (план призывает собрать $2,5 млрд за пять лет), намерен привлекать пожертвования именно от бенефициаров IPO-волны: «Люди в передовых лабораториях понимают угрозы, создаваемые ИИ, лучше кого бы то ни было». Несколько влиятельных в кругах эффективного альтруизма грантодателей помогают более молодым НКО подтянуть администрирование и бухгалтерию. Стин ван дер Плуг, исполнительный директор Animal Charity Evaluators (за прошлый год организация помогла направить около $15 млн в фонды, борющиеся с жестоким обращением с сельскохозяйственными животными), формулирует так: «Мы пытаемся построить порт до того, как придёт корабль». Coefficient Giving тем временем подталкивает и растущие организации: в этом месяце его крупнейшие доноры, сооснователь Facebook Дастин Московиц и его жена Кэри Туна, выделили $1 млрд на проекты глобального здравоохранения, почти в шесть раз больше, чем планировалось изначально, чтобы создать «масштабируемые возможности» для приёма ещё большего притока пожертвований в будущем.

GiveDirectly, ещё одна популярная среди эффективных альтруистов организация, которая переводит деньги без условий людям в бедности или кризисе, скрытно привлекла раунд финансирования для подготовки к волне пожертвований, деньги пойдут на найм инженеров для автоматизации финансов и HR, партнёрства для более быстрой выплаты денег при стихийных бедствиях и разработку плана «глобального ИИ-дивиденда для бедных». Гендиректор GiveDirectly Ник Аллардайс говорит, что, несмотря на неопределённость вокруг IPO, к этому моменту стоит отнестись очень серьёзно.

Не все настроены так оптимистично. Организации, работающие вдали от сан-францисского ИИ-сообщества или занимающиеся, например, защитой детей или борьбой с политической дезинформацией, опасаются остаться без внимания: широко распространено мнение, что группы, борющиеся с экзистенциальными рисками ИИ, приоритет для эффективных альтруистов, получат куда больше денег, чем те, кто защищает права человека, борется с массовой слежкой или онлайн-вредом. Марлена Уишняк, отвечающая за цифровую стратегию в Европейском центре некоммерческого права (ECNL), который занимается политикой и исследованиями в сфере ИИ, пытается поднять видимость организаций, которые могут остаться незамеченными, особенно в странах глобального Юга. В этом месяце она добилась небольшой победы: её знакомый из Anthropic пожертвовал $100 тысяч одной из таких организаций. Теперь она пытается убедить контакты в OpenAI и Anthropic поделиться с коллегами её списком правозащитных организаций, а НКО советует описывать свою работу терминами вроде «теория изменений» и «подкреплено доказательствами», которые лучше резонируют с эффективными альтруистами.

Некоторые организации сознательно держатся в стороне от этой волны. Ранее в этом году Model Evaluation and Threat Research (METR), которая оценивает модели OpenAI и Anthropic, решила не запрашивать финансирование у сотрудников этих компаний, чтобы не поставить под угрозу независимость организации. Другие опасаются, что деньги, связанные с эффективным альтруизмом, движением, которое критикуют за замкнутость и ошибочность взглядов, отпугнут партнёров и других доноров; по словам источника, знакомого с настроем таких НКО и попросившего анонимности, эти опасения существуют, хотя консультант по коммуникациям, работающий с несколькими организациями, близкими к эффективному альтруизму (не уполномоченный говорить от их имени), считает эти репутационные страхи преувеличенными, ссылаясь на рост финансирования, кадров и влияния движения.

Ветераны некоммерческого сектора призывают к осторожности: не стоит подгонять профильную работу организации под интересы новых денег в ущерб её сути. Не остаётся незамеченным и то, что источник этого богатства, ИИ-индустрия, которая в некоторых случаях сама усугубляет проблемы, с которыми борются НКО. «Риск в том, что это индустриальное богатство от IPO задним числом может не пойти на пользу человечеству. Нельзя поддаваться соблазну лёгких денег просто ради того, чтобы угодить приоритетам богатых», говорит Бо Янг Ли из AI4ALL. Один из эффектов ожидаемого притока денег уже заметен: поскольку благотворительное финансирование концентрируется в узком круге направлений с ограниченным числом специалистов, зарплаты там растут. В этом месяце некоммерческая организация по безопасности ИИ Resolution объявила о гранте в $160 млн от Coefficient, крупнейшем в его истории. По словам самой организации, этот грант вместе с «колоссальным притоком благотворительного капитала» после ИИ-IPO позволит Resolution платить «значительно выше норм, принятых в некоммерческом и академическом секторах».

Ключевые факты

Ожидаемые IPO Anthropic (возможно, уже в сентябре) и OpenAI при оценках, близких к $1 трлн, сделают сверхбогатыми сотни сотрудников; по грубой оценке, только IPO Anthropic может добавить $15 млрд в год к благотворительности в США (+2,5% к общему объёму пожертвований в стране).
Семеро основателей Anthropic пообещали отдать 80% своего состояния; компания добавляет 1, 3 акции на каждую акцию, которую сотрудник жертвует на благотворительность.
WIRED поговорил с 18 НКО, готовящимися к притоку денег: организации наращивают найм, обучение, маркетинг и автоматизацию; сотрудники ИИ-лабораторий уже получают до 20 незапрошенных писем в неделю от фондов, ищущих пожертвования.
Крупные сделки уже идут: Coefficient (доноры, Дастин Московиц и Кэри Туна) выделил $1 млрд на глобальное здравоохранение, Resolution получил от Coefficient рекордный грант $160 млн, GiveDirectly привлекла собственный раунд финансирования на подготовку, Animal Charity Evaluators направила около $15 млн в защиту животных.
Часть сектора опасается перекоса: деньги могут уйти в первую очередь на направления, приоритетные для эффективных альтруистов (безопасность ИИ, биобезопасность), обделив правозащитные и другие НКО; METR принципиально отказалась просить финансирование у OpenAI и Anthropic ради независимости.

Почему это важно

Ожидаемые IPO Anthropic и OpenAI могут стать спусковым крючком одной из крупнейших волн частной благотворительности за десятилетия, счёт идёт на миллиарды долларов в год. Это не абстрактная перспектива: некоммерческий сектор уже перестраивается под неё, а первые крупные пожертвования и гранты (на сотни миллионов и миллиарды долларов) уже происходят.

Кому это важно

Руководителям и фандрайзерам НКО, особенно в сфере безопасности ИИ и эффективного альтруизма; сотрудникам OpenAI и Anthropic, которые готовятся распорядиться будущим состоянием; правозащитным и другим организациям, опасающимся остаться без финансирования на фоне ИИ-ориентированных причин.

Как это применить

Организации, за которыми стоит следить как за примером стратегии, делают ставку не на холодные письма сотрудникам (по опыту консультантов это почти не работает), а на выстраивание отношений заранее, работу через грантодающие организации-посредники вроде Coefficient Giving и Survival and Flourishing Fund, приведение в порядок администрирования и бухгалтерии и использование языка, близкого эффективным альтруистам («теория изменений», «подкреплено доказательствами»).

Можно ли доверять

Материал построен на репортёрской работе WIRED: интервью с 18 некоммерческими организациями и десятками других, а также именные цитаты руководителей (Райан Кэрриер, Бо Янг Ли, Бак Шлегерис, Джефф Ралстон, Стин ван дер Плуг, Марлена Уишняк, Ник Аллардайс). Ключевая цифра в $15 млрд в год, это, по формулировке самого источника, «грубая оценка инсайдера из технологической отрасли», а не официальный прогноз Anthropic, которая отказалась комментировать конкретные суммы и получателей. К этой оценке и к предположениям о масштабе будущей филантропии стоит относиться как к прикидке, а не факту.

Риски и подводные камни

Весь сценарий держится на том, что IPO вообще состоятся и пройдут успешно, их могут отложить, а слабый выход на биржу оставит сотрудников без ожидаемого состояния. Даже при успешном IPO обилие вариантов для пожертвований и обычная человеческая непостоянность могут привести к тому, что сотрудники оставят деньги себе. Часть сектора опасается перекоса финансирования в пользу тем, близких эффективным альтруистам (риски вымирания от ИИ, биобезопасность), в ущерб правам человека, слежке и другим темам, а связь с движением эффективного альтруизма несёт репутационные риски из-за критики этого движения как замкнутого и спорного. Наконец, источник этих денег, сама ИИ-индустрия, которая, по мнению части наблюдателей, в отдельных случаях усугубляет те самые проблемы, которые эти пожертвования должны решать.

«Все бросятся за этими деньгами. Будет дикая гонка.»

— Кристин Питерсон, сооснователь Foresight Institute

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.