Y Combinator: Гарри Тан предложил разрешить дистилляцию передовых моделей и американским лабораториям с открытыми весами

Глава акселератора Y Combinator Гарри Тан в интервью CNBC на этой неделе высказался о дистилляции ИИ-моделей, практике, когда одна лаборатория интенсивно опрашивает чужую модель, чтобы понять, как та рассуждает, и использует это для обучения собственной модели; такой приём обычно применяют легально, в том числе сами крупные лаборатории. Речь шла о том, что китайские лаборатории, по утверждению Anthropic, применяют дистилляцию против американских передовых моделей, и Тан считает, что регуляторам США вмешиваться в это не стоит. «Я бы не делал ничего», сказал он CNBC, добавив: «Можно было бы утверждать, что должен появиться американский режим дистилляции».

Позиция прозвучала на фоне того, что Anthropic на этой неделе выпустила уже второй отчёт с обвинением китайских лабораторий в «незаконных атаках дистилляции»: по версии Anthropic, те скрывают свою личность, дистиллируют без разрешения и полагаются на мошенничество и краденые учётные данные. Глава Anthropic Дарио Амодеи ранее уже публично призывал регуляторов США жёстко пресекать дистилляцию. То, что руководитель одного из самых влиятельных и продуктивных стартап-акселераторов Кремниевой долины публично с этим не согласен, само по себе заметно.

В разговоре с TechCrunch Тан уточнил, что именно предлагает, и это не то же самое, что описывает Anthropic про китайские лаборатории. Он хочет, чтобы небольшие американские лаборатории с открытыми весами применяли те же обучающие техники к американским передовым лабораториям, легально, «с парадного входа», без кражи учётных данных, что дало бы США больше открытых моделей, не завязанных на Китай. У его позиции два основания. Во-первых, он считает избыточным, когда ИИ-лаборатории диктуют клиентам, что делать с информацией, которую те получают через вызовы API. Во-вторых, он напоминает, что сами проприетарные лаборатории в своё время не спрашивали разрешения, когда собирали для обучения моделей как можно больше человеческих знаний, и в том числе активно использовали материалы, защищённые авторским правом, без согласия правообладателей.

Свою мысль Тан развернул там же, в разговоре с TechCrunch: «Контролировать, что пользователи и клиенты делают с API-вызовами к моделям с закрытыми весами, это ограничение, и здесь есть роль для государства: закрепить, что доступ к интеллекту, обученному на широко доступных публичных данных, сам должен быть скорее общественным благом, чем чем-то, запертым за ограничительными условиями обслуживания».

Тан, сам активный пользователь ИИ: он говорил о себе, что находится в состоянии «киберпсихоза» (шутливое самоописание, не медицинский диагноз). Он выступает за баланс между лабораториями с открытыми весами и передовыми закрытыми лабораториями. «Они на передовой и двигают её вперёд. Мы хотим, чтобы это оставалось финансируемым и хорошей бизнес-моделью», сказал он CNBC о передовых закрытых лабораториях, добавив об открытых: «Вы хотите, чтобы открытые модели давали людям свободу и доступ».

Своим главным кошмарным сценарием для ИИ Тан называет не дистилляцию, а монополию: «Кошмарный сценарий, сценарий конца света для ИИ, это когда остаётся только одна компания, сказал он., У неё лучший доступ к капиталу. У неё лучшие ИИ-исследователи. Она вырывается вперёд, и внезапно остаётся одна монолитная компания. И это было бы плохо».

Ключевые факты

Гарри Тан (глава Y Combinator) сказал CNBC, что не стал бы регулировать дистилляцию американских моделей китайскими лабораториями: «Я бы не делал ничего», и допустил появление «американского режима дистилляции».
В разговоре с TechCrunch Тан уточнил: он хочет, чтобы небольшие американские лаборатории с открытыми весами легально («с парадного входа», без кражи учётных данных) дистиллировали передовые американские модели, это дало бы США больше открытых моделей, не завязанных на Китай.
Позиция Тана расходится с Anthropic: на этой неделе компания выпустила уже второй отчёт, обвиняющий китайские лаборатории в «незаконных атаках дистилляции», сокрытии личности, мошенничестве и краденых учётных данных, а глава Anthropic Дарио Амодеи ранее публично призывал регуляторов США бороться с дистилляцией.
Аргумент Тана: избыточно, когда ИИ-лаборатории диктуют клиентам, что делать с данными по API, а сами проприетарные лаборатории при обучении моделей не спрашивали разрешения на использование материалов, защищённых авторским правом.
Худшим сценарием для ИИ Тан называет не дистилляцию, а монополию одной проприетарной компании с лучшим доступом к капиталу и исследователям, которая «вырывается вперёд» и становится единственным игроком.

Почему это важно

Гарри Тан руководит Y Combinator, одним из самых влиятельных и продуктивных стартап-акселераторов Кремниевой долины, через который прошли многие заметные компании ИИ-индустрии. Публично разойтись с позицией Anthropic, лаборатории первого эшелона, чей глава Дарио Амодеи уже добивался от регуляторов ограничений на дистилляцию, для человека с таким весом в индустрии заметный шаг. Тан не просто просит не трогать китайские лаборатории: он предлагает симметрично разрешить то же самое американским компаниям с открытыми весами, переворачивая разговор с «как остановить дистилляцию» на «как её использовать в свою пользу». Это прямое столкновение двух видений ИИ-рынка, закрытой экосистемы вокруг нескольких передовых лабораторий против более широкого поля открытых моделей.

Кому это важно

Небольшим американским лабораториям с открытыми весами, предложение Тана прямо на пользу их бизнес-модели. Регуляторам и законодателям США, которые сейчас формируют политику в отношении ИИ и получают на этот счёт два противоположных сигнала от заметных фигур индустрии, Тана и Амодеи. Самой Anthropic и другим передовым лабораториям с закрытыми весами, чью позицию Тан публично оспаривает. И основателям в портфеле Y Combinator, для которых слова главы акселератора о допустимости дистилляции, сигнал о том, в какую сторону может двигаться политика в этой сфере.

Как это применить

Прямого продукта или инструмента здесь нет, это позиция по политике, а не релиз. Но для основателей открытых ИИ-лабораторий в ней есть практический ориентир: Тан проводит чёткую границу между легальной дистилляцией «с парадного входа» через обычные вызовы API и нелегальной, с кражей учётных данных или сокрытием личности, как в отчётах Anthropic про китайские лаборатории. Это подсказка, какую стратегию можно публично защищать, а какую нельзя. Тем, кто следит за регулированием ИИ в США, слова Тана стоит воспринимать как один из двух конкурирующих аргументов, который будет противопоставляться позиции Anthropic в дальнейшей дискуссии о правилах для дистилляции.

Можно ли доверять

Материал TechCrunch построен на прямой речи Тана, на цитатах из его интервью CNBC и отдельного разговора с самим изданием, а не на пересказе через третьи руки. TechCrunch прямо уточняет: Тан не защищает кражу учётных данных, а говорит именно о легальном доступе, это снижает риск исказить его позицию. Обратная сторона: TechCrunch не приводит ответ Anthropic, Дарио Амодеи или китайских лабораторий на слова Тана, не называет конкретных американских лабораторий с открытыми весами, которые он имеет в виду, и не раскрывает содержание самого отчёта Anthropic, только факт его выхода и общую формулировку обвинения. Это мнение одной стороны спора, поданное без контраргументов другой.

Риски и подводные камни

Аргумент Тана балансирует на грани: разрешить американским лабораториям дистиллировать передовые модели «с парадного входа», не то же самое, что закрыть тему злоупотреблений, которые описывает Anthropic (сокрытие личности, мошенничество, краденые учётные данные), а граница между дозволенным и незаконным дистиллированием способна стираться на практике быстрее, чем в риторике. Довод Тана о том, что проприетарные лаборатории тоже когда-то не спрашивали разрешения на обучающие данные, работает и как аргумент против регулирования дистилляции, и как потенциальное оправдание для дальнейших нарушений, где именно проходит граница, в материале не уточняется. Наконец, «американский режим дистилляции» пока не более чем формулировка одного человека в интервью: ни сроков, ни механизма, ни поддержки со стороны регуляторов или конгресса материал не называет.

«Можно было бы утверждать, что должен появиться американский режим дистилляции.»

— Гарри Тан, глава Y Combinator (интервью CNBC)