Kimi K3 разожгла спор об open source ИИ, эссе разбивает аргументы против него

Выход китайской модели Kimi K3 запустил новый виток тревожных разговоров об open source ИИ: журналисты, бизнес-лидеры и политики вновь заговорили о нём как об опасной угрозе. Показательна цитата представителя OpenAI Дина Болла: по его словам, один из вероятных исходов мира, где будут доминировать открытые (open-weight) модели, это «полный ИИ-коммунизм», при котором ИИ вместо рыночного продукта становится «общественным благом». Автор эссе резюмирует позицию фронтир-лабораторий так: открытые модели опасны (и «не по-американски»), поэтому ИИ следует выпускать из «ящика Пандоры» только под контролем «ответственных привратников», по сути сборщиков пошлины, желательно из своего же числа, и допускать к нему только «надёжных», то есть самых прибыльных, клиентов. Дальше автор разбирает и опровергает эту позицию по пунктам.

Первый тезис: открытый код, фундамент вообще всего проприетарного софта, включая сами фронтир-модели, которые по сути тоже программные продукты. Любой сложный продукт (в тексте, пример Uber) собирается из слоёв: языковых фреймворков, сетевого ПО, инструментов анализа данных и так далее. Компаниям выгодно сообща развивать нижние, недифференцирующие слои стека и конкурировать только на верхних, где создаётся реальное отличие продукта. Фронтир-лабораториям невыгодно, чтобы ИИ-модели скатились в категорию «настолько общедоступного, что на этом бессмысленно конкурировать», но, по словам автора, неясно, удастся ли им этого избежать.

Второй тезис: открытый код исторически крайне трудно подавить, и автор проводит параллель с шифрованием. Когда Фил Циммерман в 1991 году создал PGP, американские власти приравняли шифрование к военной технологии и возбудили против него уголовное дело; сегодня PGP, обыденный инструмент. Когда Netscape создала SSL, власти разрешили экспортировать за рубеж только «ослабленную» версию, но это привело к обратному эффекту: «международную» версию было проще достать, и ею стали пользоваться даже сами американцы. Экспортные ограничения на шифрование в итоге не сработали, PGP и SSL разошлись по всему миру, а суды позже признали публикацию исходного кода шифрования защищённой речью, после чего власти США ослабили экспортный контроль. Из этой истории автор делает вывод: сузить ограничения до «китайских» моделей тоже не получится, уже неясно, что вообще считать «китайской» моделью: модель, дистиллированную из американской? модель, которую американец дообучил поверх китайской? В лучшем случае такое регулирование лишь временно обременит самих американцев бюрократией и худшим доступом к ИИ по сравнению с остальным миром.

Третий тезис: открытый ИИ, не только китайская история, у него хватает и некитайских коммерческих сторонников. Производители чипов: глава Nvidia Дженсен Хуанг описывает то, что строит компания, как «фабрики токенов», Nvidia всё равно, обрабатывают ли её чипы запросы к фронтир-моделям или к дешёвым открытым моделям, лишь бы токенов генерировалось больше, поэтому Nvidia и сама выпускает открытые модели. Американские стартапы: Thinking Machines Lab недавно выпустила мощную открытую модель, делая ставку на то, что модели в целом коммодитизируются, а реальный ров возникнет вокруг вспомогательных сервисов. Корпоративные пользователи ИИ пока не так активно участвуют в разработке открытых моделей, но, по мнению автора, скоро им понадобятся более дешёвые модели для несложных задач и более тонкий контроль над клиентскими функциями. Наконец, крупные компании вроде Google и Meta внимательно следят за новым рекламным продуктом OpenAI, и если он выстрелит, этим гигантам будет выгодно коммодитизировать открытые модели без рекламы, чтобы задавить рекламную конкуренцию.

Автор также сомневается в самой рамке «гонки ИИ»: неясно, в чём именно её цель, создать лучшую модель, продать больше токенов или первым «уничтожить человечество». Сравнение с несуществующей «гонкой за интернет» призвано показать, что нации не соревнуются, а адаптируются к новой трансформационной технологии, а если так, свободный доступ к моделям, благо, а не угроза. Дальше автор разбирает три конкретных «плохих» довода против китайских моделей. Первый, тезис о «демпинге ИИ», который приводит колумнист Скотт Гэллоуэй: по его аналогии Китай поступает с ИИ так же, как раньше с солнечными панелями, сталью, электромобилями и батареями, сперва сравнивается по качеству с Западом или почти сравнивается, а затем цена снижается на две трети, и рынок захватывается. Автор возражает: в отличие от физических товаров, ИИ (если не считать чипов) не требует физической цепочки поставок, а значит открытая китайская модель не мешает, а наоборот помогает бизнесу дообучения (fine-tuning) в США.

Второй довод, страх пропаганды: автор допускает, что китайские модели действительно могут поставляться с прокитайским взглядом на мир, но не считает это поводом для запрета, раз модель открыта, любой недовольный американец волен доработать и выпустить свою, «американизированную» версию; внутри США маловероятно, что модель с явным прокитайским перекосом обойдёт по популярности похожую модель с проамериканским перекосом. Третий довод, страх закладок (бэкдоров): по мнению автора, ИИ не меняет базовую динамику рынка уязвимостей, ответственные участники их патчат, атакующие эксплуатируют; ограничение доступа к инструментам только «ответственными» игроками на деле помогает именно атакующим. Если недобросовестный актор всё же встроит в модель скрытое вредоносное поведение, в интересах добросовестных как можно быстрее это найти, а лучший способ для этого, дать возможность инспектировать модель кому угодно, то есть открытость.

В сносках автор уточняет: термин «open source model» он использует как синоним «open-weight model», то есть речь именно об открытых весах модели, а не обязательно об открытом коде и данных обучения. Там же он спорит со статьёй Дерека Томпсона о китайском ИИ: по мнению Томпсона, тот, кто находится на фронтире, лучше всего позиционирован доминировать и на «нефронтирных» рынках (которые по сути тот же фронтир, только на несколько месяцев позже), но, по мнению автора, это не очевидно: стимулов и капитала снижать стоимость обслуживания моделей не хватает как раз самим фронтир-лабораториям. Автор также отмечает липкость (stickiness) агентских обвязок вроде Claude Code и Codex, сравнивая её с приверженностью брендам Кока-Кола и Пепси, но тут же оговаривается, что реального рва у кодинг-агентов на самом деле нет: пользователи легко переключаются между ними из-за небольшой разницы в цене, качестве модели или надёжности. Отдельно поясняется, что Nvidia выигрывает в любом случае: поток капитала в обучение фронтир-моделей ей выгоден уже сейчас, а если в будущем спрос сместится с коммерческих токенов на открытые, Nvidia всё равно останется в выигрыше, поскольку зарабатывает на чипах, а не на самих моделях. Итоговый вывод эссе: открытый ИИ придёт независимо от желаний политиков и бизнес-лидеров, он слишком мощный и слишком трудно контролируемый, а попытки его подавить обернутся лишь шумом на фоне неизбежного распространения.

Ключевые факты

Повод для эссе, релиз китайской модели Kimi K3, после которого представитель OpenAI Дин Болл заявил, что мир с доминированием открытых моделей рискует превратиться в «ИИ-коммунизм», где ИИ становится не рыночным продуктом, а «общественным благом».
Автор проводит параллель с историей шифрования: уголовное дело против создателя PGP Фила Циммермана (1991) и провалившиеся экспортные ограничения на SSL показывают, что подавить открытый код исторически не удавалось, а попытки лишь бьют по своим же пользователям.
Открытый ИИ, не только китайская инициатива: свои открытые модели выпускают Nvidia («фабрики токенов», по словам Дженсена Хуанга) и стартап Thinking Machines Lab, а Google и Meta заинтересованы в коммодитизации моделей, чтобы ослабить рекламный продукт OpenAI.
Три ходовых довода против китайских моделей автор считает несостоятельными: «демпинг» не работает без физической цепочки поставок, пропаганду можно устранить форком модели («американизировать» её), а открытость облегчает поиск скрытых закладок, а не создаёт риск для них.
Вывод: ограничить open source ИИ по критерию «страны происхождения» практически невозможно, модель, дистиллированную из американской или дообученную американцем поверх китайской, нельзя чисто классифицировать, а регулирование лишь урежет доступ к ИИ для самих американцев.

Почему это важно

Дискуссия вокруг open source ИИ, не абстрактный спор, а борьба за то, кто будет допущен к работе с передовыми моделями. Аргументы вроде «ИИ-коммунизма» от представителя OpenAI используются, чтобы обосновать политику, при которой доступ к мощным моделям контролируют несколько фронтир-лабораторий («ответственные привратники», по формулировке автора), а не открытый рынок. На историческом примере экспортных ограничений на шифрование (PGP, SSL) автор показывает, что подобные попытки подавления обычно проваливаются и бьют по своим же гражданам и компаниям, то есть ставки в этом споре выходят далеко за пределы одного релиза Kimi K3.

Кому это важно

Тем, кто определяет политику регулирования ИИ, экспортный контроль и ограничения «по стране происхождения» модели касаются напрямую их решений. Фронтир-лабораториям вроде OpenAI, чья бизнес-модель зависит от того, останется ли доступ к мощным моделям платным и контролируемым. Производителям открытых моделей и их сторонникам, Nvidia, Thinking Machines Lab, китайским лабораториям вроде создателей Kimi K3. Компаниям, которые дообучают модели или строят продукты поверх открытых весов и зависят от того, останется ли такая возможность легальной и доступной. Специалистам по безопасности ИИ, для которых важен аргумент про закладки и пользу открытой инспекции моделей.

Как это применить

Эссе, не инструкция, а набор контраргументов, которые стоит держать под рукой при оценке новостей о регулировании ИИ. Из него можно взять на вооружение: не путать «open source» с «open-weight» и уточнять, что именно открыто в конкретной модели; проверять аргумент о «демпинге», требуя физическую цепочку поставок, для софта эта логика не работает; не считать открытость модели поводом для страха перед закладками, открытость, по логике автора, скорее ускоряет обнаружение проблем, чем создаёт их; закладывать в бизнес-план сценарий, что открытые модели (в том числе китайские) продолжат оставаться доступными независимо от попыток регулировать их «по стране происхождения».

Можно ли доверять

Это авторское эссе на личном блоге (tombedor.dev), а не исследование и не официальное заявление компании, автора в тексте по имени не называют, а бэкграунд проверить нечем. Исторические факты, уголовное дело против Циммермана, экспортные ограничения на SSL, решения судов о статусе исходного кода шифрования как защищённой речи, общеизвестная и хорошо задокументированная история. А вот прогнозы и трактовки (что сделают Google и Meta, чем закончится «гонка ИИ», кто выигрывает от открытых моделей), личная интерпретация автора, а не факты. Цитата Дженсена Хуанга про «фабрики токенов» приведена автором со ссылкой на чужую статью (Дерека Томпсона), то есть это пересказ из вторых рук. Новых фактов или данных эссе не добавляет, это компиляция уже известных аргументов и исторических параллелей, поэтому ценность материала в самой аргументации, а не в новизне информации.

Риски и подводные камни

Сам автор признаёт единственный реальный риск регулирования «по стране происхождения»: оно, скорее всего, не остановит распространение открытых моделей, зато создаст лишнюю бюрократию и урежет доступ к ИИ для самих американцев по сравнению с остальным миром. Эссе также намекает на риск того, что аргументы о «безопасности» и «ответственности» могут быть выгодны самим фронтир-лабораториям как прикрытие для контроля рынка («сборщики пошлины, желательно свои же»). Стоит учитывать и ограничения самого текста: автор разбирает только три конкретных довода критиков, демпинг, пропаганду и закладки, и не касается других возможных возражений против полностью открытых моделей на уровне фронтира. Историческая параллель с шифрованием тоже не абсолютна: в отличие от софта с уязвимостями, которые патчат обновлением, опубликованные веса модели нельзя отозвать, снять с них ограничения безопасности дообучением можно, а откатить публикацию нельзя. Это не опровергает аргументы автора, но напоминает, что эссе, одна сторона широкой дискуссии, а не её исчерпывающий разбор.

«Один из вероятных исходов мира, где будут доминировать открытые (open-weight) модели, это полный ИИ-коммунизм... Вместо рыночного продукта ИИ становится «общественным благом»»

— Дин Болл, OpenAI

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.