ИИтог

The Register: почему «открытые веса» ИИ-моделей, это не open source

разноеРедакция ИИтогThe Register🔥50Рейтинг ИИтог50Влияние50Новизна35Релевантность80Неожиданность25Участники45Достоверность75
The Register: почему «открытые веса» ИИ-моделей, это не open source

The Register опубликовал авторскую колонку журналиста Стивена Дж. Воана-Николса о том, что ИИ-индустрия злоупотребляет словом «open»: компания выкладывает файлы модели на Hugging Face, и релиз тут же называют «open source моделью», хотя чаще речь идёт лишь об «открытых весах» (open weights).

Разница не техническая деталь. Веса, это обученные числовые параметры сети; вместе с архитектурой и кодом инференса они позволяют модели работать. Открытые веса можно скачать, запустить локально, дообучить на своих данных, и не отправлять запросы через чужой API. Это даёт контроль над данными, приватностью, расходами и независимость от поставщика. Но без обучающих данных и подробной документации нельзя понять, какие источники использовались, какой контент мог быть защищён авторским правом, как отбирались и вычищались данные, какие языки и сообщества оказались недопредставлены, не «протекли» ли тестовые бенчмарки в обучение и как на модель повлияло постобучение по безопасности.

Open Source Initiative (OSI), хранитель определения Open Source Definition (OSD), формулирует это прямо: «открытые веса, это финальные веса и смещения обученной нейросети», и сами по себе они дают лишь «часть информации, необходимой для полной подотчётности». Джеймс Ланди, директор Стэнфордского института человекоцентричного ИИ (HAI), проводит ту же границу: открытые веса позволяют скачать модель и запустить её у себя, но не показывают, как она была построена, на чём обучена и почему ведёт себя именно так, «это не открытая модель, это открытое распространение». По его словам, без раскрытия обучающих данных или подробного документированного и проверяемого отчёта о них нельзя ни протестировать, ни воспроизвести, ни оспорить работу в полном смысле.

У OSI есть собственное определение open source ИИ, Open Source AI Definition (OSAID 1.0), принятое в октябре 2024 года. Оно требует раскрывать параметры модели, включая веса, на одобренных OSI условиях, но не предписывает конкретный юридический механизм для этого, и именно тут, по мнению критиков, зияет дыра. Лука Антига, технический директор Lightning AI и заметный участник разработки PyTorch, считает, что такой подход к весам делает лицензии менее пригодными для того, чтобы определить, можно ли реально применять ИИ-системы под лицензией OSI. Брюс Перенс, автор исходного определения OSD, ещё в 2024 году осудил OSAID и позже заявил: «Это не open source! Печально, что сама Open Source Initiative занялась openwashing’ом» (имитацией открытости). Брэдли Кун, штатный политический эксперт и приглашённый разработчик (hacker-in-residence) Software Freedom Conservancy, и старший юрисконсульт по коммерческим сделкам Red Hat Ричард Фонтана требуют вовсе отменить OSAID: по их словам, OSI слишком поспешила навязать сообществу чрезмерно амбициозный компромисс, расколола FOSS-сообщество и подорвала собственную репутацию, авторитет и влияние, а положительного эффекта на практиков машинного обучения, FOSS-сообщество или регуляторов OSAID так и не показала. Сама OSI при принятии OSAID 1.0 признавала, что определение будет дорабатываться; критики настаивают, что ключевые недостатки так и не устранены.

Параллельно Linux Foundation в лице Майка Долана подала в OSI на рассмотрение собственную лицензию, Open Model, Data, and Weights (OpenMDW), «лицензию на модель, данные и веса». Она существует с 2025 года и уже собрала контрибьюторов из Amazon, Meta, IBM, Microsoft и Nvidia, то есть заручилась серьёзной поддержкой индустрии. В отличие от классического open source, который строится вокруг исходного кода, у языковых моделей код, архитектура и числовые веса переплетены с обучающими данными, которые могут быть проприетарными, защищёнными авторским правом или вовсе нераскрытыми. OpenMDW пытается решить это, задавая отдельные условия для архитектуры модели, обучающих данных и весов и сводя их под одно соглашение. Но заявка на рассмотрение уже столкнулась с возражениями в рассылке OSI по обзору лицензий. Стефано Маффулли, бывший исполнительный директор OSI, руководивший организацией во время разработки OSAID, говорит, что у него складывается впечатление, будто обзор OpenMDW пристрастен идеологически: раз индустрия ИИ сейчас, это большой техбизнес, а к большому техбизнесу относятся с недоверием, то и к ИИ относятся так же, и рецензенты готовы на всё, лишь бы его заблокировать.

Примет ли OSI лицензию OpenMDW, открытый вопрос. Ланди резюмирует: индустрии нужны и открытые веса, и настоящий open source, а пока почти все лаборатории, что американские, что китайские, отвечают лишь на вопрос «можно ли это запустить», но не на вопрос «можно ли этому доверять, улучшать это и строить на этом дальше». Если решение так и не найдено, «открытый ИИ» рискует остаться пустым маркетинговым штампом.

Ключевые факты

  • The Register в авторской колонке разбирает, почему публикация весов модели, это ещё не open source: без обучающих данных и документации нельзя проверить, как и на чём модель обучена
  • OSI ввела определение Open Source AI Definition (OSAID 1.0, октябрь 2024), оно требует раскрывать веса на одобренных условиях, но не задаёт юридический механизм, и это критикуют как «дыру» в определении
  • Критики, Брюс Перенс (автор оригинального OSD) называет OSAID openwashing’ом, а Брэдли Кун и Ричард Фонтана из Software Freedom Conservancy и Red Hat требуют его отменить
  • Linux Foundation подала в OSI альтернативную лицензию OpenMDW (с 2025 года, контрибьюторы из Amazon, Meta, IBM, Microsoft, Nvidia), которая пытается свести код, данные и веса под одно соглашение, но и она встречает возражения на рассмотрении
  • Джеймс Ланди, директор Стэнфордского института человекоцентричного ИИ (HAI), формулирует разницу так: открытые веса отвечают на вопрос «можно ли это запустить», а настоящий open source, на вопрос «можно ли этому доверять и строить на этом дальше»

Почему это важно

Слово «open source» стало маркетинговым штампом: компания выкладывает веса модели, и пресс-релиз называет это открытым исходным кодом, хотя пользователь не видит ни обучающих данных, ни методики их отбора, ни того, что повлияло на поведение модели после обучения. Колонка показывает, что это не придирка лингвистов, а спор с реальными ставками, вокруг него схлестнулись Open Source Initiative, Linux Foundation, Stanford HAI и ключевые фигуры классического open source движения (автор оригинального определения OSD, юристы Red Hat, эксперты Software Freedom Conservancy).

Кому это важно

Компаниям и командам, которые выбирают модель под задачу и опираются на маркировку «open source» как на гарантию воспроизводимости и права дорабатывать систему; регуляторам и юристам, для которых формальный статус лицензии определяет, что можно делать с моделью; и самим лабораториям, американским и китайским, которые называют свои релизы открытыми, пока индустрия ещё не договорилась, что это слово вообще означает применительно к ИИ.

Как это применить

Прежде чем полагаться на ярлык «open source» у ИИ-модели, стоит проверить, что именно раскрыто: только веса, или ещё и обучающие данные, документация о их составе и лицензия, которая явно это покрывает. Ориентиры, о которых пишет колонка, определение OSAID 1.0 от Open Source Initiative и предложенная Linux Foundation лицензия OpenMDW, которая пытается развести условия отдельно для кода, данных и весов; статус обеих ещё не устоялся, и это стоит держать в уме при выборе модели для продакшена.

Можно ли доверять

Это авторская аналитическая колонка постоянного технологического журналиста The Register, а не новостная заметка о событии одного дня, издание прямо помечает материал как columnists-раздел. При этом фактура опирается на именованные источники с должностями: директора Stanford HAI, технического директора Lightning AI, автора оригинального определения open source, юриста Red Hat и политического эксперта Software Freedom Conservancy, представителя Linux Foundation и бывшего исполнительного директора OSI, все цитаты приведены с указанием, кто и в какой роли их произнёс.

Риски и подводные камни

Спор остаётся неразрешённым: OSI признаёт, что OSAID 1.0 будет дорабатываться, но критики говорят, что ключевые пробелы так и не закрыты, а рассмотрение конкурирующей лицензии OpenMDW уже столкнулось с обвинениями в идеологической пристрастности рецензентов. Пока индустрия не сойдётся на общем понимании, есть риск, что термин «open source» в применении к ИИ так и останется красивой этикеткой без юридического содержания, то, что критики уже называют openwashing.

«Открытые веса отвечают на вопрос «можно ли это запустить». Open source отвечает на вопрос «можно ли этому доверять, улучшать это и строить на этом дальше». Сейчас почти все, что американские лаборатории, что китайские, отвечают на первый вопрос, но далеки от ответа на второй.»

— Джеймс Ланди, директор Стэнфордского института человекоцентричного ИИ (HAI)

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.