Ричард Саттон заявил: одних вычислений для интеллекта мало, нужны новые методы

Ричард Саттон заявил: одних вычислений для интеллекта мало, нужны новые методы

Лауреат премии Тьюринга Ричард Саттон в недавнем посте написал, что одной сырой вычислительной мощности для интеллекта недостаточно: науке об ИИ нужны изобретательные новые методы, и она «далека от завершения». По словам The Decoder, пост вызвал широкое обсуждение в ИИ-сообществе в соцсети X.

Контекст: в знаменитом эссе 2019 года «Горький урок» («The Bitter Lesson») Саттон утверждал, что общие методы, которые масштабируются вместе с вычислениями, в конечном счёте побеждают сложные подходы, придуманные людьми. Важны идеи, которые растут вместе с вычислениями, а не опираются на человеческие допущения. Сама позиция Саттона не нова: ранее он критиковал пределы простого наращивания больших языковых моделей, назвал синтетические данные «большой ошибкой» (реальный мир бесконечно сложен, а любая его симуляция лишь «микроскопична») и считал, что человеческая экспертиза как узкое место мешает настоящему масштабированию. Взамен он призывал создавать агентов с моделями мира, которые постоянно учатся на собственном опыте. По его мнению, мир несопоставимо сложнее того, что способен охватить интернет-текст, а нынешние языковые модели не продолжают учиться после обучения; нужно непрерывное обучение, не разрушающее прежние знания.

Исследователь Джерри Творек, как и многие другие ушедший из OpenAI искать новые подходы к ИИ, дополняет эту мысль. Он пишет, что горький урок остаётся верным, но чем больше вычислений вкладывается в обучение модели, тем важнее алгоритм. Одни алгоритмы масштабируются, другие упираются в тупик, а многие направления масштабирования вообще не исследованы. Временный успех масштабирования трансформеров в сочетании с неверным пониманием горького урока, по его словам, «обманул систему вознаграждения в мозгах целого поколения учёных».

Исследователь Джейден Теох смотрит под другим углом. Он говорит, что не раз видел, как горький урок тормозит академические исследования: перспективные идеи отвергают за то, что они слишком далеки от его духа. Но, по мнению Теоха, это не вина Саттона, а неверное прочтение его исходной мысли. Идеи, которые задним числом не вписались в горький урок, часто вытеснялись более чистыми и общими подходами, но от этого они не становились ошибочными: нередко именно они обеспечивали прогресс в своё время. Теох хочет, чтобы сообщество не отвергало такие работы сразу. Он пишет: «Идее не обязательно вечно выдерживать масштабирование, чтобы стать важным вкладом в прогресс ИИ».

Напряжение между призывом Саттона к новым методам обучения и критикой слепого масштабирования трансформеров у Творека, отмечает The Decoder, видно и в растущей волне стартапов: в выпуске Frontier Radar #5 издание отслеживало 45 новых ИИ-лабораторий, делающих ставку на эти пробелы. Творек сам руководит одной из них, Core Automation, которая ищет алгоритмы обучения за пределами предобучения и обучения с подкреплением. К таким основателям издание относит и Саттона с лабораторией Oak Lab: они верят в куда более мощный ИИ, но сомневаются, что нынешнего рецепта для этого хватит.

У масштабирования остаются влиятельные сторонники. Глава OpenAI Сэм Альтман считает, что масштабирование больших языковых моделей далеко не исчерпано, и обвиняет критиков в том, что они тормозят целое поколение исследователей чрезмерной уверенностью в том, чего масштабирование не может. В доказательство он ссылается на модель OpenAI, которая недавно опровергла математическую гипотезу, долго не поддававшуюся математикам. Модели мира он считает полезными, например в робототехнике, но говорит, что данные ясно говорят в пользу дальнейшего масштабирования языковых моделей. Глава Anthropic Дарио Амодеи рассуждает похоже, называя прогресс от масштабирования радугой без конца. The Decoder добавляет от себя, что Амодеи и Альтман возглавляют две компании, чей технический подход целиком держится на этой ставке, и потому заведомо пристрастны.

Ключевые факты

  • Ричард Саттон, лауреат премии Тьюринга и автор эссе «Горький урок» (2019), в недавнем посте написал, что одной вычислительной мощности для интеллекта недостаточно, а наука об ИИ «далека от завершения».
  • Ранее Саттон называл синтетические данные «большой ошибкой» и призывал к агентам с моделями мира, которые непрерывно учатся на собственном опыте, не разрушая старые знания.
  • Джерри Творек пишет, что горький урок верен, но чем больше вычислений уходит на обучение, тем важнее алгоритм; Джейден Теох считает, что горький урок часто читают неверно и из-за этого отвергают перспективные идеи.
  • Сэм Альтман и Дарио Амодеи по-прежнему видят в масштабировании больших языковых моделей путь вперёд; The Decoder отмечает, что их компании целиком опираются на эту ставку.
  • The Decoder в выпуске Frontier Radar #5 отслеживал 45 новых ИИ-лабораторий, делающих ставку на пробелы в нынешнем масштабировании, среди них Core Automation Творека и Oak Lab, с которой связан Саттон.

Почему это важно

Эссе «Горький урок» часто приводят как довод в пользу наращивания вычислений. Теперь его автор прямо говорит, что одних вычислений мало и наука об ИИ «далека от завершения». Это ставит под вопрос расхожее прочтение его же идеи и сталкивает два лагеря: исследователей, ищущих новые способы обучения, и руководителей OpenAI и Anthropic, уверенных, что масштабирование далеко не исчерпано.

Кому это важно

Исследователям и инженерам, которые выбирают между масштабированием существующих моделей и поиском новых алгоритмов обучения, а также тем, кто следит за стартапами новых ИИ-лабораторий и за позицией крупных компаний.

Как это применить

Прямого практического применения у материала нет: это спор о направлении исследований. Из него можно взять ориентиры для чтения новостей об ИИ: у Саттона это непрерывное обучение без потери старых знаний и модели мира, у Творека, внимание к алгоритму наряду с объёмом вычислений, у Теоха, не отбрасывать идеи только потому, что они, возможно, не переживут масштабирования.

Можно ли доверять

Это пересказ мнений, а не новых данных или экспериментов. Позиция Саттона не нова, а в материале The Decoder не указаны ни дата и площадка его недавнего поста, ни дата и источник высказываний Альтмана и Амодеи. Модель OpenAI, опровергшая математическую гипотезу, и сама гипотеза в тексте не названы. Оценку о пристрастности Альтмана и Амодеи даёт само издание, это не факт из заявлений героев.

Риски и подводные камни

Спор легко свести к схеме «масштабирование против новых идей», хотя сами участники говорят тоньше: Творек признаёт, что горький урок остаётся в силе, Теох считает путаницу следствием неверного прочтения эссе, а Альтман допускает пользу моделей мира. Доводы обеих сторон пока остаются утверждениями: в материале нет сравнительных замеров, а пример Альтмана с опровергнутой гипотезой дан без подробностей.

«Идее не обязательно вечно выдерживать масштабирование, чтобы стать важным вкладом в прогресс ИИ.»

— Джейден Теох, исследователь ИИ