Сандерс разошёлся с левыми активистами США во взглядах на риски ИИ

10 сентября, через два дня после того, как исследователь Джейкоб Коксон, незадолго до этого уволившийся из Anthropic, публично забил тревогу о том, что индустрия ИИ может привести к концу человечества, нью-йоркское отделение организации «Демократические социалисты Америки» (DSA), крупнейшее в стране, опубликовало в Instagram серию карточек от имени своей рабочей группы по технологиям Tech Action. Первая карточка изображала уробороса на розовом фоне с подписью: «Алармизм вокруг ИИ и хайп вокруг ИИ, это одна и та же история: оба отвлекают внимание на научно-фантастическое будущее от реального вреда, который причиняется уже сейчас». Пост набрал более 25 000 лайков, но вызвал и резкую критику в комментариях: часть подписчиков назвала позицию «ужасной и опасной», указывая, что иногда бить тревогу оправданно.

Публикация обнажила идеологический раскол среди американских левых по вопросу того, верить ли заявлениям ИИ-компаний о том, что их продукты настолько мощны, что способны уничтожить мир. Часть левых, включая члена Tech Action Алана Данга, считает, что повторение тезисов передовых лабораторий об опасностях ИИ на руку самим этим компаниям: оно отвлекает внимание от регулирования уже существующего вреда в пользу гипотетического и недостижимого будущего. «ИИ стал новым инструментом капиталистической эксплуатации. Вред от нерегулируемого и неправильно используемого ИИ уже очевиден по всей стране, говорит Данг., Как социалисты, мы не доверяем этим корпорациям самим писать для себя правила».

Другая часть левых следует за 85-летним сенатором Берни Сандерсом, которого называют неофициальным лидером американских левых: он с энтузиазмом занялся темой безопасности ИИ и утверждает, что ИИ способен уничтожить человечество. Сторонники этой позиции считают, что можно одновременно бороться и с нынешним вредом от ИИ, и с будущими рисками. «Люди, которых волнует управление передовыми моделями и развитие сверхинтеллекта, одновременно занимаются и нынешним вредом, говорит демократический стратег по ИИ Александр Маккой., Возможности передовых моделей ИИ реальны и продолжают расти, это не выдумка и не хайп».

За последний год Сандерс перенёс дискуссии о безопасности ИИ, ранее звучавшие в основном в кругах Кремниевой долины, в Вашингтон и к своей широкой популистской аудитории. Он одним из первых в политике выступил против строительства дата-центров, важной темы организации левых в этом году, и заговорил о рисках ИИ, от потери рабочих мест до экзистенциальной угрозы. Его законопроект о моратории на дата-центры, представленный в марте, прямо увязывает приостановку строительства с необходимостью федерального регулирования ради «будущего человечества». Позиция Сандерса привела к неожиданному союзу: его взгляды на риски ИИ совпадают со взглядами Стива Бэннона, бывшего советника президента Дональда Трампа и ведущего правопопулистского подкаста. Риторику Сандерса подхватили и левые кандидаты по всей стране: 9 сентября, за день до поста DSA, шесть кандидатов от Партии трудящихся семей, четверых из которых поддерживает Сандерс, выступили с заявлениями о необходимости федерального регулирования ИИ ради предотвращения экзистенциальных угроз.

Исследовательница и критик индустрии ИИ Тимнит Гебру публично обвинила Сандерса и его единомышленников слева в том, что они «заимствуют идеи у буквальных апокалиптических евгенических культов», имея в виду философию эффективного альтруизма и рационализма, на которую опираются разговоры о безопасности ИИ в Кремниевой долине. Румман Чоудхури, гендиректор и основательница некоммерческой организации Humane Intelligence и бывшая глава отдела этики машинного обучения в Twitter, разделяет опасения рабочей группы DSA: по её словам, всё внимание, которое привлекает дискуссия о безопасности ИИ, в конечном счёте пойдёт на пользу передовым лабораториям. «Компании получают всё внимание, время, энергию и деньги, выступая с крайне радикальными заявлениями, а затем отступают к тому, на чём мы и так настаиваем, обесценивая при этом всю нашу экспертизу», говорит Чоудхури. Она также отмечает, что растущее внимание к рискам может помочь OpenAI и Anthropic, которые планируют выход на биржу в ближайшие годы: подробная документация о рисках и мерах по их устранению станет частью процедуры IPO и подтвердит существование полноценного регуляторного режима в отрасли.

Прагати Баласубраманян, участник рабочей группы Tech Action и один из организаторов кампании против дата-центров, которая помогла добиться принятия годичного моратория в штате Нью-Йорк, считает, что на практике вопрос об экзистенциальном риске почти не всплывает: людей на местах в первую очередь волнует, что компании, строящие ИИ и дата-центры, не считаются с их интересами. Маккой, консультирующий нескольких кандидатов в Конгресс по ИИ, настаивает, что реального раскола среди настоящих лидеров левых нет: он напоминает, что мэр Нью-Йорка Зохран Мамдани и другие члены DSA уже высказались о предупреждениях Коксона и о взломе Hugging Face. Позицию Гебру и её единомышленников Маккой называет «маргинальной, непредставительной и надуманной»: по его словам, можно одновременно бороться и со слежкой, и с камерами Flock, и с рисками передовых моделей ИИ, одно другому не мешает.

Фил Аронеану, исполнительный директор организации Irreplaceable, выступающей за сочетание левых взглядов и безопасности ИИ (сооснованной Маккоем при стартовом финансировании от Центра по безопасности ИИ), проводит параллель с климатическим активизмом: прямой вред от добычи ископаемого топлива и затопленные из-за климатических штормов дома, это как сиюминутный вред от ИИ, а более широкое движение вокруг долгосрочных рисков и выбросов, как беспокойство об экзистенциальных угрозах ИИ. Сандерс и представительница Нью-Йорка в Конгрессе Александрия Окасио-Кортес расходятся во взглядах: она выступила соавтором его законопроекта о моратории на дата-центры, включая формулировки об угрозе ИИ человечеству, в собственной версии билля для Палаты представителей, но не участвовала в громких дискуссиях о безопасности ИИ, в которых был занят Сандерс. Сандерс называет ИИ «самой трансформационной технологией в истории человечества», тогда как Окасио-Кортес в основном говорит о вреде дата-центров для рынка труда и рисках пузыря. На вопрос журналиста о безопасности ИИ она ответила осторожно: «Два утверждения могут быть верны одновременно», отметив, что ИИ «может быть очень опасен при отсутствии каких-либо ограничений», и предупредив, что «мы можем увидеть, как экономический пузырь столкнётся с технологическим рубежом».

По словам Данга, рабочая группа DSA Tech Action выступает за «всестороннее регулирование ИИ и технологий на федеральном, штатном и городском уровне, с одновременным регулированием передовых моделей и противодействием тому, как корпоративный ИИ уже используется». На съезде DSA сейчас рассматривается резолюция в поддержку законопроекта Сандерса и конгрессмена Грега Касара о полном запрете сверхинтеллекта, с чем передовые лаборатории вряд ли согласятся. Опрос Politico, опубликованный в среду, показал, что двое из трёх американцев считают, что ИИ несёт хотя бы некоторый риск «уничтожить человечество». Баласубраманян резюмирует: «Я рада, что все сейчас говорят об ИИ».

Ключевые факты

Нью-йоркское отделение Демократических социалистов Америки (DSA) опубликовало в Instagram пост против «алармизма» вокруг ИИ, набравший более 25 000 лайков, вскоре после того, как экс-сотрудник Anthropic Джейкоб Коксон публично предупредил об экзистенциальном риске ИИ.
85-летний сенатор Берни Сандерс, наоборот, всерьёз занялся темой безопасности ИИ: его мартовский законопроект о моратории на дата-центры увязывает приостановку строительства с угрозой ИИ для «будущего человечества», а его взгляды неожиданно совпали со взглядами экс-советника Трампа Стива Бэннона.
9 сентября шесть кандидатов от Партии трудящихся семей (четверых поддерживает Сандерс) выступили с заявлениями об экзистенциальных угрозах ИИ, за день до поста нью-йоркской DSA.
Исследовательница Тимнит Гебру публично обвинила Сандерса и его единомышленников в заимствовании идей у «апокалиптических евгенических культов»; конгрессвумен Александрия Окасио-Кортес заняла промежуточную позицию, сосредоточившись на дата-центрах и рынке труда.
Опрос Politico показал: двое из трёх американцев считают, что ИИ несёт хотя бы некоторый риск «уничтожить человечество»; на съезде DSA рассматривается резолюция в поддержку законопроекта о полном запрете сверхинтеллекта.

Почему это важно

Материал фиксирует редкий момент, когда дискуссия о безопасности ИИ, до этого звучавшая в основном в Кремниевой долине, стала линией раскола внутри одного политического лагеря в США. Спор идёт не о том, нужно ли регулировать ИИ вообще, а о приоритетах: тратить ли политический капитал на предотвращение гипотетической экзистенциальной катастрофы или на борьбу с уже существующим вредом, потерей рабочих мест, слежкой, нагрузкой дата-центров на энергосистему. То, что Берни Сандерс и часть DSA расходятся именно в этом, показывает, что тема безопасности ИИ перестала быть уделом узких экспертных кругов и стала предметом электоральной политики.

Кому это важно

Материал будет интересен тем, кто следит за политикой регулирования ИИ в США, исследователям AI-safety, сотрудникам передовых лабораторий вроде OpenAI и Anthropic, которые готовятся к IPO, и специалистам по коммуникациям, работающим с политическими рисками. Он также полезен всем, кто занимается публичной дискуссией об ИИ: статья показывает, как один и тот же набор фактов о рисках ИИ используется противоположными сторонами одного политического лагеря для противоположных выводов.

Как это применить

Прямого продукта или инструмента в материале нет, это разбор политической дискуссии, а не техническая новость. Практический вывод для тех, кто формирует публичную позицию по ИИ (компании, некоммерческие организации, авторы): аргументы «это отвлекает от реального вреда» и «риски существуют, и заниматься можно и тем, и другим одновременно», обе уже есть в политическом обороте, и обе используются как готовые формулировки в публичных заявлениях.

Можно ли доверять

Материал Wired, построен на прямых цитатах названных источников, членов рабочей группы DSA, сенатского окружения, исследователей и представителей некоммерческих организаций, а также на публичных документах (законопроект, опрос Politico, предвыборные заявления). Собственных числовых расчётов или спорных методологий в тексте нет: все цифры, прямые цитаты (число лайков, результат опроса, число кандидатов). Издание не приводит собственную оценку правоты той или иной стороны, ограничиваясь изложением позиций.

Риски и подводные камни

Материал описывает политическую полемику, а не техническую оценку рисков ИИ, выводов о том, кто прав в споре о степени экзистенциальной угрозы, текст не делает и делать не может. Для читателя это скорее срез настроений в одном политическом лагере США на конкретный момент (сентябрь), чем прогноз политики регулирования: расстановка сил внутри DSA и позиция конкретных кандидатов могут измениться уже к следующим выборам.

«Алармизм вокруг ИИ и хайп вокруг ИИ, это одна и та же история: оба отвлекают внимание на научно-фантастическое будущее от реального вреда, который причиняется уже сейчас»

— рабочая группа Tech Action, нью-йоркское отделение DSA (пост в Instagram)

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.