Экс-глава антимонопольного ведомства США Кантер: антимонопольный иммунитет ИИ-компаниям не нужен

The Verge выпустил первую часть из двух в подкасте Decoder: ведущий поговорил с Джонатаном Кантером, экс-главой антимонопольного управления Минюста США при администрации Байдена, ныне профессором права в Вашингтонском университете в Сент-Луисе и профессором технологической политики в Карнеги-Меллон. Поводом стал спор об ИИ-безопасности: исследователи в Anthropic и Google DeepMind увольнялись, заявляя, что риски моделей всерьёз не воспринимаются, а некоторые исследователи оценивают вероятность того, что ИИ «убьёт всех», выше 10%. Гендиректора крупных ИИ-лабораторий в ответ призывают притормозить разработку и создать регулирование, в том числе получить антимонопольный иммунитет, чтобы вместе работать над безопасностью. Дарио Амодеи из Anthropic называет это «держать темп фронтира» (pace the frontier).

Ведущий предположил, что лаборатории, OpenAI, Anthropic, Google DeepMind, а также Илон Маск, не доверяют друг другу и оказались в «дилемме заключённого»: им нужна внешняя сила (государство), которая навяжет всем одинаковые правила. Кантер согласился «отчасти» и предложил два толкования, от самого доброжелательного до самого циничного, но в любом случае не считающих, что нужен антимонопольный иммунитет. Доброжелательная версия: компании напуганы темпом инноваций при полном отсутствии правил («мы изобрели машины, но не поставили ни разметки, ни светофоров, ни знаков») и искренне опасаются, что их продукт может нанести катастрофический вред. Циничная версия: компании тратят слишком много денег, не могут долго это выдерживать, но снижение расходов ударит по оценке перед IPO, поэтому они хотят получить от кого-то разрешение снизить темп и не конкурировать так жёстко, пока не приведут экономику в порядок.

Ключевой тезис Кантера: компаниям не нужно договариваться друг с другом, чтобы выпускать безопасные продукты. Он сравнивает ситуацию с Boeing и Airbus: если у самолётов Boeing отваливались двери, вины Airbus в этом не было, и Boeing не нужно было согласовывать с Airbus замедление разработки, нужно было чинить собственный процесс производства. Так же и с ИИ-агентами: если агент компании взламывает чужую систему, это не отличается от ситуации, когда так поступает нанятый компанией человек, ответственность несёт наниматель. Легитимная координация между компаниями ограничена узкими вещами вроде общего реестра угроз и вредоносных ботов, для этого антимонопольный иммунитет и не требуется, поскольку антимонопольные законы такому обмену и так не препятствуют. А вот договорённость вида «мы слишком жёстко конкурируем, давайте вместе притормозим» уже подпадает под антимонопольное регулирование, и именно её, по мнению Кантера, компании пытаются обойти призывами к иммунитету.

Вместо иммунитета Кантер предлагает возложить на компании ответственность за вред от их продуктов, в том числе от агентов, и наделить государство правом принудительно снимать с рынка небезопасные системы. Ведущий перевёл разговор на то, что это фактически перекладывает регулирование на институт ответственности за продукцию (product liability), и спросил, кто отвечает, если чей-то ИИ-агент по указанию пользователя атакует стороннюю систему. По Кантеру, ответственность двойная: и у людей, и у компаний, создающих технологию, которая причиняет вред, включая кражу или взлом чужой собственности. Он ссылается на прецедент: иск к Meta из-за вреда психическому здоровью и безопасности детей от Facebook и Instagram, там институт ответственности за продукцию в итоге сработал, но на это ушло около десяти лет. Кантер называет это проблемой: пока Конгресс США, по его словам, «совершенно не способен» принять базовые нормы безопасности (он связывает это с джерримендерингом и делом Citizens United), у ИИ по-прежнему нет «разметки, светофоров и знаков». При этом бездействие Конгресса, подчёркивает он, не оправдывает выпуск опасных продуктов: «Если вы верите, что ваш продукт уничтожит человечество, не создавайте его».

В разговоре также всплывает собственная карьера Кантера: вместе с Линой Хан он провёл через суд крупные антимонопольные дела против Google, Apple и Ticketmaster и, как говорится в тексте, устроил полную перезагрузку антимонопольной политики США; дела против Google и Ticketmaster он выиграл, а дело против Apple продолжается уже при администрации Трампа, неожиданно для многих. Неожиданный союз возникает и на стороне противников иммунитета: бывший советник Трампа по ИИ и убеждённый либертарианец Дэвид Сакс одобрительно репостил заявления Лины Хан о том, что антимонопольный иммунитет не нужен. Предоставленный текст интервью обрывается на середине фразы, беседа должна была продолжиться темой отношений с Китаем и конкурентной политики, но эта часть в источник не попала.

Ключевые факты

Джонатан Кантер, экс-глава антимонопольного управления Минюста США при Байдене, ныне профессор права в Вашингтонском университете в Сент-Луисе и профессор технологической политики в Карнеги-Меллон, в подкасте Decoder заявил: ИИ-компаниям не нужно освобождение от антимонопольных законов, чтобы вместе работать над безопасностью.
Поводом стал спор об ИИ-безопасности: исследователи в Anthropic и Google DeepMind увольнялись, заявляя, что риски всерьёз не воспринимаются, а некоторые исследователи оценивают вероятность того, что ИИ «убьёт всех», выше 10%; гендиректора лабораторий в ответ призывают притормозить разработку и получить антимонопольный иммунитет, Дарио Амодеи из Anthropic называет это «держать темп фронтира».
На предположение ведущего, что лаборатории просто не доверяют друг другу и попали в «дилемму заключённого», Кантер предложил два толкования их мотивов, от доброжелательного (страх перед отсутствием правил игры) до циничного (нужно разрешение снизить траты и не конкурировать так жёстко перед IPO), но ни одно не оправдывает антимонопольный иммунитет.
Кантер: компаниям не нужно договариваться друг с другом, чтобы делать безопасные продукты, по аналогии с Boeing и Airbus (двери одного самолёта, не повод останавливать конкурента); вместо иммунитета он предлагает ответственность бизнеса за вред от продуктов и агентов, вплоть до принудительного снятия опасных систем с рынка.
Кантер вместе с Линой Хан провёл через суд крупные антимонопольные дела против Google и Ticketmaster; дело против Apple продолжается уже при администрации Трампа. Бывший советник Трампа по ИИ, либертарианец Дэвид Сакс, публично поддержал позицию Хан о ненужности иммунитета.

Почему это важно

В индустрии ИИ разворачивается спор о том, нужно ли крупным лабораториям, OpenAI, Anthropic, Google DeepMind и другим, освобождение от антимонопольных законов, чтобы координировать работу над безопасностью. Формальный повод, уходы исследователей из Anthropic и Google DeepMind, заявлявших, что риски моделей всерьёз не воспринимаются, и оценки некоторых исследователей, по которым вероятность того, что ИИ «убьёт всех», превышает 10%. Гендиректора лабораторий в ответ призывают притормозить разработку и создать регулирование, в том числе получить антимонопольный иммунитет для совместной работы над безопасностью. Это же порождает подозрения, что за призывами к регулированию стоит попытка сформировать картель, добиться регуляторного захвата или снять с себя давление инвесторов перед IPO. Джонатан Кантер, экс-глава антимонопольного управления Минюста США при Байдене, в подкасте Decoder разбирает, насколько эти опасения обоснованы, и приходит к выводу: антимонопольный иммунитет тут ни при чём, а решать проблему нужно через ответственность за вред от продукта.

Кому это важно

Регуляторам и законодателям, которые решают, вводить ли для ИИ-лабораторий особые антимонопольные нормы; самим компаниям, OpenAI, Anthropic, Google DeepMind, которые готовятся к IPO и одновременно продвигают совместные инициативы по безопасности; инвесторам, оценивающим риск регуляторного вмешательства и издержки продуктовой ответственности; и всем, кто следит за тем, как государство собирается реагировать на риски ИИ.

Как это применить

По Кантеру, компаниям не нужно объединяться, чтобы делать безопасные продукты, нужно строить их так, чтобы они не причиняли вреда, как Boeing чинил собственное производство, а не координировался с Airbus. Легитимная координация между конкурентами ограничена узкими вещами вроде общего реестра угроз и вредоносных ботов, для этого антимонопольный иммунитет не требуется, потому что закон такому обмену и так не мешает. А вот договорённость «мы слишком жёстко конкурируем, давайте вместе притормозим» уже подпадает под антимонопольное регулирование, и именно на неё нацелены призывы к иммунитету. Вместо иммунитета Кантер предлагает возложить на компании ответственность за вред от их продуктов и агентов, вплоть до принудительного снятия небезопасной системы с рынка, и одновременно признаёт, что суды разбираются с такой ответственностью медленно.

Можно ли доверять

Материал, расшифровка интервью в подкасте Decoder издания The Verge, первая часть из двух; предоставленный текст обрывается на середине фразы, и вторая часть эпизода (в том числе обещанный разговор про Китай) в источник не попала. Оценка «вероятность того, что ИИ убьёт всех, выше 10%» приписана источником безымянным «другим исследователям», без имени и методологии проверить её нельзя. Большая часть материала, прямая речь самого Кантера: бывшего чиновника, а ныне частного лица и профессора права, излагающего собственную интерпретацию событий, а не независимо подтверждённые факты.

Риски и подводные камни

Главный риск идёт от самих опасений, которые разбирает Кантер: если антимонопольный иммунитет всё же дадут, координация «по безопасности» на практике может обернуться картелем и регуляторным захватом, о которых предупреждают критики. Обратный риск, в решении, которое предлагает сам Кантер: ответственность через суды работает медленно (по его же примеру, иск к Meta из-за вреда детям от Facebook и Instagram шёл около десяти лет), а пока Конгресс США, по его словам, бездействует, у ИИ-агентов до сих пор нет ни правил, ни светофоров, ни знаков на дороге. Часть разговора, про отношения с Китаем и конкурентную политику, в доступном тексте отсутствует, и как Кантер увязывает это со своей схемой ответственности, неизвестно.

«Если вы верите, что ваш продукт уничтожит человечество, не создавайте его. Если вы верите, что он взломает чужую систему, вернитесь к чертежам и придумайте, как сделать его безопаснее.»

— Джонатан Кантер, экс-глава антимонопольного управления Минюста США

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.