OpenAI и Anthropic заявили британским депутатам: добровольных обязательств мало

На заседании комитета по бизнесу, инновациям, науке и торговле британского парламента (в нём заседают депутаты от разных партий) представители OpenAI и Anthropic заявили, что добровольных обязательств для безопасности ИИ больше недостаточно и нужно принимать новые законы. Так углубился публичный раскол с Google DeepMind и Meta, которые отказались поддержать новое законодательство. Слушание прошло во вторник, на нём выступили представители четырёх ведущих ИИ-компаний, четыре бывших сотрудника этих компаний, ставшие информаторами, и старшие британские чиновники.

Руководитель Anthropic по Европе Лиам Бут-Смит на вопрос, считает ли компания, что безопасность ИИ теперь требует закреплённой в законе системы, ответил: «Правила должны быть обязательными». По его словам, компания «неизменно считала, что для компаний должны существовать обязательные правила и что добровольных обязательств недостаточно». Вице-президент OpenAI Том Дафф Гордон был осторожнее, но тоже поддержал: он выступил за законодательную рамку и международную конвенцию. По его словам, «некоторые элементы должны быть обязательными», начиная с отчётности об инцидентах; опираться при передовых рисках целиком на добровольные обязательства, «не очень хороший долгосрочный план».

Конкуренты за ними не последовали. На прямой вопрос о законодательной рамке Оуэн Лартер из Google DeepMind ответил: «Мы бы сосредоточились на стандартах». Роб Шерман из Meta указал на действующих британских регуляторов, заметив депутатам, что они «пишут не на чистом листе».

Председатель комитета Лиам Бирн сказал WIRED, что цель слушания, «высветить большие различия во взглядах между одними из самых богатых компаний мира» и показать, «что нельзя полагаться на добровольное саморегулирование». По версии издания, смысл был в том, чтобы показать этот раскол во второй юрисдикции. Параллельно, в нескольких сотнях метров от места слушания, директор MI5 Кен Маккаллум в ежегодном обзоре угроз назвал одной из значимых угроз от ИИ применение для создания биологического оружия: «Пока не реализованный, но самый весомый, на мой взгляд, сценарий злоупотребления, способность ИИ изменить ставки в отношении существующего или даже нового биологического оружия». Бирн отреагировал: директор MI5 предупреждает об опасном росте возможностей для биотеррористов в одной части Уайтхолла, а в другой, как он выразился, «постоянный секретарь» Кабинета министров по сути признаёт, что британская система регулирования ИИ добровольная, «и это говорит само за себя».

В заключительной части заседания чиновники признали, как мало в нынешней системе принуждения. Британский Институт безопасности ИИ (AISI) тестирует передовые модели до выпуска, но только когда компании сами решают их передать. Директор AISI Генри де Зоэте признал, что институт целиком зависит от готовности компаний и иностранных правительств дать доступ. На вопрос, что будет, если AISI сочтёт модель слишком опасной, а компания всё равно её выпустит, он признал, что у института нет возможности этому помешать. «Мы не занимаемся сертификацией знаком качества, сказал он., Мы не говорим „да“ или „нет“ ни одной модели». Кэт Литтл, высшая государственная служащая Кабинета министров, в ведении которого находится AISI, на вопрос, добровольна ли вся система, ответила: «На данный момент да».

Представители компаний дали понять, что британский доступ идёт через Вашингтон. Дафф Гордон сказал, что OpenAI передаёт модели до развёртывания CAISI (американскому аналогу AISI) и будет и дальше передавать их AISI в Великобритании, пока может делать это в рамках правил правительства США. Бут-Смит заявил: «К сожалению, в то время мы не смогли предоставить UK AISI полный неограниченный доступ к [Mythos 5.1]… Это вопрос к правительству США», после чего добавил, что сейчас у AISI доступ есть.

У комитета выступили и четверо бывших исследователей лабораторий. Дэниел Кокотайло, бывший сотрудник OpenAI, сказал: «Я не думаю, что компаниям можно доверять саморегулирование». Стивен Адлер, ушедший из OpenAI в конце 2024 года, заявил, что «не уверен в культуре безопасности в отрасли». Джеффри Ирвинг сказал, что лаборатории считают, будто они втянуты в гонку, которую правительства не остановят и из которой они не могут выйти: «И то и другое неверно. Они могли бы просто остановиться».

После слушания Бирн сообщил WIRED, что комитет теперь посвятит много времени вопросу о пути Великобритании как «средней державы» в сфере ИИ. Он хочет, чтобы министры использовали предстоящее британское председательство в G20 вместе с Южной Кореей, которая следует за ней по очереди, чтобы выработать международную конвенцию, не зависящую от нынешнего Белого дома: «Председательство в G20 переживёт президентство Трампа». По его словам, риски «множатся быстрее, чем наша система безопасности способна их контролировать».

Ключевые факты

• На слушании в британском парламенте OpenAI и Anthropic заявили, что добровольных обязательств недостаточно и нужны новые законы; Google DeepMind и Meta отказались поддержать новое законодательство.
• Лиам Бут-Смит (Anthropic): «Правила должны быть обязательными». Том Дафф Гордон (OpenAI) поддержал законодательную рамку и международную конвенцию, начав с обязательной отчётности об инцидентах.
• Оуэн Лартер (Google DeepMind) ответил, что надо сосредоточиться на стандартах, а Роб Шерман (Meta) указал на действующих британских регуляторов.
• Чиновники признали: AISI тестирует модели только по желанию компаний и не может запретить выпуск; на вопрос, добровольна ли вся система, Кэт Литтл ответила «На данный момент да».
• Председатель комитета Лиам Бирн хочет использовать британское председательство в G20 для международной конвенции по ИИ; конкретного законопроекта или сроков в материале нет.

Почему это важно

Раскол между ведущими ИИ-компаниями по вопросу регулирования теперь зафиксирован в официальных материалах британского парламента. Две из четырёх компаний прямо сказали, что саморегулирования недостаточно, а чиновники подтвердили, что нынешняя британская система проверки передовых моделей держится на добровольном сотрудничестве. Это делает аргумент в пользу обязательных правил публичным и подкреплённым показаниями самих разработчиков.

Кому это важно

Разработчикам передовых моделей, которым, возможно, придётся иметь дело с обязательной отчётностью об инцидентах и обязательными проверками; британским и международным регуляторам; депутатам и чиновникам, обсуждающим международную конвенцию по ИИ. Также материал полезен тем, кто следит за позициями OpenAI, Anthropic, Google DeepMind и Meta по регулированию.

Как это применить

Прямого практического применения у новости нет: это позиции на слушании, а не новое правило. Следить стоит за тем, превратятся ли заявления в законодательные инициативы, в материале нет ни конкретного законопроекта, ни сроков. Полезно сопоставить, какие именно элементы называют обязательными: Дафф Гордон начинает с отчётности об инцидентах.

Можно ли доверять

Материал основан на прямых цитатах участников слушания и на комментариях председателя комитета Лиама Бирна, которые он дал WIRED. Оценки раскола и «смысла слушания» исходят от издания и от самого Бирна, который сам организовал показ различий, так что это не нейтральное мнение. Позиции компаний даны в их собственных словах; заявление Лартера о стандартах не равно прямому возражению против закона, в источнике сказано лишь, что DeepMind и Meta отказались поддержать новое законодательство.

Риски и подводные камни

Заявления о поддержке регулирования не означают конкретных обязательств: в материале нет ни законопроекта, ни плана действий правительства. Британский институт зависит от доступа, который проходит через правительство США, а Великобритания не контролирует компании, которые, по словам де Зоэте, американские или китайские. Бирн предлагает конвенцию, не зависящую от нынешней администрации США, но как это будет реализовано, в источнике не сказано.

«Правила должны быть обязательными.»

— Лиам Бут-Смит, руководитель Anthropic по Европе, на слушании в британском парламенте

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.