Скотт Винер, автор SB 1047, победил на выборах в Конгресс и хочет регулировать ИИ

Скотт Винер (Scott Wiener), сенатор штата Калифорния, выиграл напряжённую гонку за освободившееся место бывшего спикера Палаты представителей Нэнси Пелоси от Сан-Франциско. MIT Technology Review поговорило с ним в пятницу, спустя считаные часы после объявления победы. Разговор длился около 20 минут.
Уже в первые часы после победы Винер думал о рисках ИИ. Днём раньше некоммерческая организация METR выпустила отчёт, который многие истолковали как свидетельство того, что Anthropic достигла рекурсивного самоулучшения: ситуации, когда ИИ заметно вносит вклад в собственное развитие и прогресс может выйти из-под контроля. Издание подчёркивает, что речь о распространённой трактовке отчёта. Винер назвал это «очень тревожным» и сказал, что времени на регулирование остаётся всё меньше. По его словам, он надеялся, что Конгресс примет решительные меры до конца года, но этого, похоже, не происходит. Фразу «рекурсивное самоулучшение» он за разговор употребил около шести раз и заявил: «Нужно притормозить, потому что всё движется очень быстро, и мы можем, как лунатики, прийти к катастрофе».
Влияние на политику в области ИИ у Винера уже есть. Законопроект SB 1047, который он внёс в 2024 году, должен был стать первым настоящим законом о frontier-ИИ (самых мощных моделях) в стране, но его наложил вето губернатор Калифорнии Гэвин Ньюсом. Тогда Винер выдвинул SB 53, более мягкий закон, и его Ньюсом подписал. Оба законопроекта вдохновили предложения на федеральном уровне.
Кампания Винера получила более $3 млн от Public First Action: это некоммерческая организация, выступающая за регулирование ИИ и получающая существенное финансирование от Anthropic. Оппоненты критиковали его за близость к ИИ-индустрии. Винер говорит, что это не может быть дальше от истины. В письменном сообщении после интервью он объяснил, что Public First поддержала его как первого в стране законодателя, который предложил и провёл регулирование ИИ, а нападки назвал «шокирующе циничными».
Программа Винера в Конгрессе. Если Конгресс создаст специальный комитет по ИИ (демократы обсуждают это с сентября), он готов в нём работать. Он поддерживает идею «сильного, наделённого полномочиями и гибкого федерального регулятора» и отмечает, что законопроект о создании такого органа предложил представитель Ро Ханна, коллега-демократ из Калифорнии. Кроме того, он выделяет защиту информаторов, требования к тестированию и аудиту, требование аварийного отключения (kill switch) и хочет, чтобы Конгресс использовал надзорные полномочия для контроля над ИИ-лабораториями. Как давний законодатель штата, он против широкого федерального приоритета над законами штатов об ИИ, который предусматривают некоторые из предложенных федеральных законопроектов: по его словам, штаты, как говорил Брандейс, служат лабораториями и должны оставаться гибкими там, где Конгресс бывает неповоротлив.
Союзники и препятствия. Союзником в борьбе с катастрофическими рисками ИИ может стать сенатор Берни Сандерс, который встречался со многими влиятельными фигурами движения за безопасность ИИ. Но, отмечает издание, между взглядами Винера и национальными настроениями есть большой разрыв: общественное мнение держится на неприятии дата-центров. На выборах во вторник избиратели одобрили 40 из 41 инициативы против дата-центров. Винер видит в этом движении скорее местные заботы (рост счетов за электричество, расход воды рядом с жилыми домами), а не вопрос о рисках ИИ в целом.
В способности Конгресса обуздать ИИ Винер «осторожно оптимистичен» с учётом его слабого опыта регулирования техиндустрии. Он также опасается, что законы не пройдут через президента Дональда Трампа, который в сентябре назвал опасения катастрофических рисков ИИ «обманом» и демонстративно не хочет сотрудничать с Китаем, а Винер считает такое сотрудничество необходимым для предотвращения худших последствий. Непредсказуемость Трампа даёт некоторую, пусть и зыбкую надежду. Винер надеется, что президента не придётся подталкивать к действиям катастрофой, а если придётся, то пусть она будет как можно меньше.
Ключевые факты
- Скотт Винер, сенатор штата Калифорния и автор SB 1047 (2024) и SB 53, выиграл напряжённую гонку за освободившееся место Нэнси Пелоси от Сан-Франциско.
- Кампания получила более $3 млн от Public First Action, организации за регулирование ИИ, которую существенно финансирует Anthropic; оппоненты критиковали его за близость к индустрии, Винер это отвергает.
- Винер выступает за сильный федеральный регулятор ИИ, защиту информаторов, тестирование и аудит, аварийное отключение и против широкого федерального приоритета над законами штатов.
- Главный страх Винера: рекурсивное самоулучшение ИИ и потеря контроля; отчёт METR, который многие трактуют как признак этого у Anthropic, он назвал «очень тревожным».
- Он «осторожно оптимистичен»: мешают слабый опыт Конгресса в регулировании техиндустрии и позиция Трампа, назвавшего опасения катастрофических рисков ИИ «обманом».
Почему это важно
Человек, чьи законы о frontier-ИИ в Калифорнии стали образцом для федеральных предложений, попадает в Конгресс и, по оценке издания, может сыграть ключевую роль в федеральной политике в области ИИ. Его позиция заметна ещё и тем, что он говорит языком сторонников безопасности ИИ и прямо говорит об угрозе потери контроля. При этом сам материал, интервью, а не новое решение: конкретных законодательных шагов пока нет.
Кому это важно
Разработчикам и компаниям, чьи модели подпадают под калифорнийские законы и возможные федеральные нормы. Исследователям и сторонникам безопасности ИИ, которым в Конгрессе нужны союзники. Тем, кто следит за спором о том, должен ли федеральный закон вытеснять законы штатов.
Как это применить
Прямого практического применения здесь нет: это политический портрет. Следить стоит за тем, будет ли создан специальный комитет Конгресса по ИИ, какие из федеральных законопроектов получат ход и сохранится ли в них положение о широком федеральном приоритете над законами штатов. Источник не называет сроков вступления Винера в должность и возможных действий Конгресса.
Можно ли доверять
Материал опубликован MIT Technology Review и основан на 20-минутной беседе с Винером и его письменном ответе после интервью. Это его собственные оценки и позиции, и о финансировании со стороны Public First Action он говорит как заинтересованная сторона. Про отчёт METR издание сообщает лишь о его распространённой трактовке как свидетельства рекурсивного самоулучшения у Anthropic; содержание отчёта не раскрыто, ни METR, ни Anthropic не цитируются.
Риски и подводные камни
Сам Винер называет себя лишь «осторожно оптимистичным»: у Конгресса плохой опыт регулирования техиндустрии, а Трамп, по тексту, называл опасения катастрофических рисков ИИ «обманом» и не хочет сотрудничать с Китаем. Общественное недовольство сосредоточено на дата-центрах, а не на рисках ИИ, и сам Винер считает это движение скорее местным. Критики связывают его с индустрией через финансирование от Public First Action, которое существенно поддерживает Anthropic.
«Нужно притормозить. Всё движется очень быстро, и мы можем, как лунатики, прийти к катастрофе.»
— Скотт Винер, сенатор штата Калифорния, о регулировании ИИ (MIT Technology Review)