Обама призвал демократов выработать чёткий план по ИИ
Бывший президент США Барак Обама заявил, что демократической партии нужно сделать искусственный интеллект одной из своих «центральных повесток» и выработать «очень чёткий план» по экономическим последствиям и безопасности этой технологии. Об этом со ссылкой на офис Обамы, который предоставил изданию частичную стенограмму мероприятия, пишет The New York Times. Обама высказался в четверг на фандрайзинге демократов, где его интервьюировал лидер меньшинства в Палате представителей Хаким Джеффрис. На вопрос Джеффриса о том, как конгрессменам-демократам подходить к теме ИИ, Обама ответил: после того как демократы вернут себе большинство в Палате, им нужно будет «собрать рамку для широкой публичной дискуссии».
«Это нечто, что очень быстро развивается в частных руках, и если мы не возьмём это под контроль, я думаю, это может быть опасно, сказал Обама., Если же мы возьмём ситуацию под контроль, я считаю, это будет полезно: я, например, действительно думаю, что это ускорит разработку лекарств и поможет вылечить болезни».
В отдельном заявлении Джеффрис сказал, что бывший президент «прав: по искусственному интеллекту необходимо принимать решительные меры», и добавил, что «республиканцы отказались от своей ответственности управлять в интересах американского народа».
По данным NYT, Обама предлагает себя ИИ-руководителям в качестве «собеседника» для идей и уже говорил и с главой Anthropic Дарио Амодеи, и с главой OpenAI Сэмом Альтманом. Его слова прозвучали на фоне растущей тревоги вокруг безопасности ИИ: в частности, после того как один ИИ-исследователь уволился из Anthropic и заявил, что ведущие ИИ-компании «мчатся прямиком к самосовершенствующемуся сверхинтеллекту, рискуя нашими жизнями». Имя этого исследователя и дата увольнения в источнике не названы.
В субботу Амодеи изложил общий подход под названием pacing the frontier: он предполагает, что независимые эксперты по безопасности получат доступ к ведущим ИИ-компаниям и их моделям, а сами компании выработают общие стандарты безопасности. В соцсетях Альтман и глава SpaceX Илон Маск, по словам издания, «вроде бы» отреагировали на план Амодеи одобрительно; сам Альтман написал, что OpenAI тоже обязуется дать независимым экспертам «доступ, как у сотрудников».
Президент США Дональд Трамп в это же время, в воскресенье, обсуждал вопросы безопасности ИИ с журналистами на гольф-мероприятии в Ирландии. По данным Bloomberg, Трамп похвастался, что США, «самая передовая страна в мире», и что он хочет, чтобы так и оставалось, «потому что тот, кто побеждает в ИИ, побеждает». Ранее в этом году администрация Трампа представила законодательную рамку по ИИ, которая лишает штаты права самостоятельно регулировать эту сферу и перекладывает ответственность за безопасность детей на родителей. «Мы можем поставить ограничители, сказал Трамп., Мы можем сделать то и это. Но, по-моему, есть немало негативных сил, которые поднимают эту тему, хотя не должны бы».
Ключевые факты
- Обама заявил, что демократам нужен «очень чёткий план» по экономическим последствиям и безопасности ИИ, и что им нужно сделать эту тему одной из «центральных повесток» партии.
- По словам Обамы, вернув большинство в Палате представителей, демократы должны «собрать рамку для широкой публичной дискуссии»; беседу на фандрайзинге вёл лидер меньшинства Палаты Хаким Джеффрис, а частичную стенограмму NYT предоставил офис самого Обамы.
- NYT сообщает, что Обама выступает «собеседником» для ИИ-руководителей и уже говорил и с главой Anthropic Дарио Амодеи, и с главой OpenAI Сэмом Альтманом.
- В субботу Амодеи изложил подход pacing the frontier, независимые эксперты по безопасности получают доступ к ведущим ИИ-компаниям, а компании вырабатывают общие стандарты безопасности; Альтман и глава SpaceX Илон Маск, по словам издания, отреагировали на план вроде бы одобрительно, а Альтман пообещал дать экспертам «доступ, как у сотрудников».
- В воскресенье на гольф-мероприятии в Ирландии Трамп заявил, что США, «самая передовая страна в мире» и хочет ею остаться, «потому что тот, кто побеждает в ИИ, побеждает» (по данным Bloomberg); ранее в этом году его администрация выпустила рамку, лишающую штаты права самостоятельно регулировать ИИ и перекладывающую заботу о безопасности детей на родителей.
Почему это важно
Это заметный случай, когда политик уровня бывшего президента публично требует от целой партии выработать позицию по ИИ именно как по вопросу экономики и безопасности, а не только технологических возможностей. Заявление прозвучало в момент, когда сама индустрия, Anthropic и OpenAI, параллельно предлагает собственные механизмы внешнего контроля за безопасностью (независимые эксперты с доступом к моделям, общие стандарты безопасности), а уволившийся из Anthropic ИИ-исследователь публично обвинил ведущие компании отрасли в гонке к «самосовершенствующемуся сверхинтеллекту». Слова Обамы переводят тему безопасности ИИ из корпоративной риторики в политическую повестку одной из двух главных партий США.
Кому это важно
Тем, кто следит за политикой США в отношении ИИ и за тем, как по этому вопросу разойдутся демократы и республиканцы. Для Anthropic и OpenAI, потому что Обама, по данным NYT, уже говорил и с Амодеи, и с Альтманом, а план Амодеи о независимых аудиторах, по характеристике издания, вроде бы встречает одобрительную реакцию у Альтмана и Маска, при этом доступ «как у сотрудников» пообещал именно Альтман от лица OpenAI. Для тех, кто следит за конфликтом федерального регулирования ИИ и регулирования на уровне штатов в США, потому что администрация Трампа уже выпустила рамку, лишающую штаты права самостоятельно регулировать ИИ, и это контрастирует с призывом Обамы к публичной дискуссии, которая только предстоит.
Как это применить
В материале названы два конкретных предложения, за которыми стоит следить. Первое, план Амодеи pacing the frontier: независимые внешние эксперты получают доступ к ведущим ИИ-компаниям и их моделям, а компании договариваются об общих стандартах безопасности; Альтман говорит, что OpenAI даст таким экспертам «доступ, как у сотрудников». Второе, выпущенная администрацией Трампа ранее в этом году законодательная рамка, которая лишает штаты права самостоятельно регулировать ИИ и перекладывает ответственность за безопасность детей при использовании ИИ на родителей. Оба пункта показывают, в какую сторону может пойти регулирование ИИ в США, к независимому надзору силами внешних экспертов или к дерегулированию на федеральном уровне.
Можно ли доверять
Материал в основном опирается на пересказ The New York Times: цитаты Обамы, на частичную стенограмму, которую NYT предоставил сам офис Обамы, то есть на управляемую публикацию, а не независимую запись всего разговора, а слова Джеффриса, на его отдельное заявление. Слова Трампа переданы через Bloomberg. Заявление уволившегося из Anthropic исследователя о «гонке к сверхинтеллекту» не подкреплено ни его именем, ни датой увольнения, проверить это утверждение по источнику невозможно. Первая реакция Альтмана и Маска на план Амодеи передана оговоркой самого издания («вроде бы» отреагировали одобрительно), а не прямой цитатой или официальным заявлением Маска, так что эту деталь стоит воспринимать как впечатление автора статьи, а не как подтверждённый факт; сам Альтман при этом отдельно дал прямую цитату о том, что OpenAI предоставит независимым экспертам доступ «как у сотрудников».
Риски и подводные камни
Все конкретные предложения по безопасности в материале исходят от самих ИИ-компаний (Anthropic, OpenAI) либо заявлены политиками в общих словах, законопроектов, сроков или механизмов принуждения источник не описывает. Есть риск, что независимый аудит «с доступом как у сотрудников» останется добровольной инициативой без внешнего контроля за её соблюдением. Отдельная нестыковка по темпу: демократы, пока остающиеся в меньшинстве, говорят о будущей публичной дискуссии, тогда как республиканская администрация ещё раньше выпустила рамку, которая лишь предполагает вытеснение регулирования ИИ со штатов, то есть решения на практике принимаются быстрее, чем разворачивается предлагаемая Обамой дискуссия.
«Это нечто, что очень быстро развивается в частных руках, и если мы не возьмём это под контроль, я думаю, это может быть опасно. Если же мы возьмём ситуацию под контроль, я считаю, что это будет полезно: я, например, действительно думаю, что это ускорит разработку лекарств и поможет вылечить болезни.»
— Барак Обама, экс-президент США