«Конец математики»: эссе о риске упадка науки при сверхчеловеческом ИИ

Автор блога побывал на закрытом саммите о будущем математики, который прошёл в OpenAI. Себастьян Бубек попросил его выступить именно о том будущем, которого хотелось бы избежать, где люди утрачивают математическую субъектность, а Джейкоб Цимерман посоветовал участникам ставить детальность выше корректности. Отправной точкой саммита (не предметом спора, а условием для продуктивной дискуссии) была посылка: ИИ станет надёжно сверхчеловеческим в математике. Автор подчёркивает, что дальше он не предсказывает будущее, а рассказывает историю о том, что может произойти, если некоторые нынешние тенденции продолжатся, и сам он по натуре оптимист.

Первая тенденция, взрывной рост математической «продукции». С конца 2021 года резко выросло число статей по комбинаторике, которые еженедельно выкладывают на arXiv; в других областях математики рост похожий, но менее драматичный. Одновременно институты математического сообщества слабеют: активность на платформе вопросов и ответов MathOverflow медленно снижается уже давно (её отчасти вытеснили Discord и подобные площадки), но снижение с начала 2025 года, по мнению автора, во многом связано именно с ИИ, причём падают и число вопросов, и число ответов.

Автор описывает и более странный эффект: три группы почти одновременно и независимо друг от друга получили очень похожие доказательства гипотезы Фейге о 1/e, и две из них признали, что решение нашёл ИИ. Похожая история, с контрпримером к гипотезе Якобиана в размерности не меньше 3: после того как пользователь @alpoge опубликовал контрпример, найденный моделью Fable, его независимо воспроизвела внутренняя модель OpenAI, а затем Anthropic воспроизвела уже целый ряд результатов, о которых незадолго до этого объявила OpenAI. Вывод автора: модели, и люди, которые ими пользуются, всё чаще решают одни и те же задачи, и огромный объём дублирующего труда (и человеческого, и машинного) имеет предельную ценность для науки, по сути равную стоимости токенов.

Далее автор переходит к стимулам. Такая работа всё ещё ценна для тех, кто о ней объявляет, ради признания, пиара и так далее. Но нынешняя система стимулов вознаграждает публикацию статей и решение гипотез, а эти результаты, по его мнению, уже переоценены. Если ничего не изменится, доминирующей стратегией карьерного успеха, по крайней мере в среднесрочной перспективе, станет, как выражается автор, «игра в игровой автомат из гипотез»: гипотезу для решения можно даже не выбирать самому, а поручить это, скажем, Codex, который подберёт задачу, решит её и проверит решение; если важна корректность, можно выпускать по несколько коротких статей в день, если нет, ещё больше, и, по словам автора, так уже и делают. Экспертиза при этом не нарастает, а математики отрываются от сути того, чем занимаются; даже человеческая проверка результатов теряет ценность по мере роста надёжности моделей. Автор указывает на уже заметное следствие: несколько коллег недавно сказали ему, что теперь избегают обсуждать работу в процессе, само упоминание, что задачу может решить модель, стало рискованным, пока такую работу всё ещё вознаграждают престижем и должностями.

Есть и обнадёживающая линия: автоформализация (перевод неформальных доказательств в форму, проверяемую машиной) дешевеет и становится эффективнее, помогая находить и исправлять пробелы и ошибки в существующей литературе. Автор скептически относится к распространённому тезису о том, что проверка корректности формализации обязательно требует человеческого суждения, он не видит причин, почему модели не справятся с этим не хуже людей. При этом уже встречаются случаи, когда формализация расходится с исходным текстом на естественном языке способом, не всегда очевидным для читателя, то есть отрыв математиков от математики проявляется и здесь; частичное решение (составление обратного, «неформализованного» пересказа) существует, но требует времени и денег.

В долгосрочной перспективе автор представляет себе мир, где модели берут на себя практически все функции математика, построение теорий, выдвижение и доказательство гипотез, итерации, а люди занимаются «лабораторной наукой», направляя ИИ-агентов на интересующие их вопросы. Открытые вопросы: кто вообще будет вникать в такую работу и как обучать следующее поколение математиков, если институты не адаптируются? Существующие стимулы рискуют вознаграждать тех, кто не погружается в математику глубоко и, возможно, вообще ею не интересуется, из-за чего устойчивость такой практики под вопросом. Автор оговаривается: перечисленные проблемы, во многом отражение уже существующих изъянов профессии, которые давление со стороны ИИ просто проявит острее; это же может стать поводом их исправить. Несмотря на мрачный сценарий, он подчёркивает, что в целом настроен оптимистично, верит, что математика выживет и будет процветать, а люди сумеют адаптироваться, и допускает, что уже через несколько лет эти опасения могут показаться частными на фоне куда более масштабных социальных потрясений от продвинутого ИИ.

Ключевые факты

Автор побывал на закрытом саммите о будущем математики в OpenAI; Себастьян Бубек попросил его выступить о сценарии, где люди теряют математическую субъектность, а Джейкоб Цимерман посоветовал ставить детальность выше корректности.
С конца 2021 года резко выросло число статей по комбинаторике на arXiv в неделю; активность на MathOverflow (и вопросы, и ответы) снижается, причём ускорение спада с начала 2025 года автор связывает во многом с ИИ.
Три группы почти одновременно независимо доказали гипотезу Фейге о 1/e (две признали, что решение нашёл ИИ); контрпример к гипотезе Якобиана в размерности ≥3, найденный моделью Fable и опубликованный пользователем @alpoge, независимо воспроизвела внутренняя модель OpenAI, а затем Anthropic воспроизвела ряд результатов OpenAI.
Если стимулы не изменятся, доминирующей стратегией карьеры станет «игра в игровой автомат из гипотез», задачи для решения и проверки поручаются ИИ вроде Codex; несколько коллег уже избегают обсуждать работу в процессе, опасаясь обесценить её, если станет ясно, что задачу решает модель.
К 2028 году автоформализация дешевеет и помогает чинить ошибки в литературе, но уже видны случаи, когда формализация расходится с исходным текстом неочевидным для читателя образом; в долгосрочной перспективе под вопросом, устойчивость математической практики и подготовка нового поколения математиков.

Почему это важно

Это не анонс продукта, а структурированный мысленный эксперимент от человека, которого позвали выступить на закрытом саммите о будущем математики, устроенном в OpenAI, рядом с исследователями вроде Себастьяна Бубека. Сама посылка саммита (ИИ станет надёжно сверхчеловеческим в математике) там принята рабочей гипотезой, а не отдалённой фантазией, это само по себе сигнал, откуда смотрит на вопрос индустрия. При этом эссе опирается не только на прогнозы: независимые и почти одновременные доказательства гипотезы Фейге о 1/e разными группами и цепочка воспроизведений контрпримера к гипотезе Якобиана (модель Fable → внутренняя модель OpenAI → Anthropic), это уже случившиеся эпизоды, которые автор использует как первые симптомы описываемого сдвига в математическом сообществе.

Кому это важно

Действующим математикам и их научным руководителям, математическим факультетам и грантовым/премиальным комитетам, которые решают, что именно вознаграждать; лабораториям, строящим ИИ-системы для доказательства теорем и автоформализации (OpenAI, Anthropic и похожие); тем, кто формирует научную политику и оценивает эффект ИИ на исследовательские практики в целом.

Как это применить

Прямого продукта здесь нет, но из текста следуют практические выводы: институтам стоит пересмотреть, что именно вознаграждают публикации и решённые гипотезы, и начать ценить понимание и проверяемость, а не объём; исследователям, использовать автоформализацию как инструмент проверки, но держать в уме, что формализация может незаметно разойтись с исходным неформальным текстом; лабораториям и группам, работающим над одной и той же открытой гипотезой, учитывать, что несогласованная гонка моделей за одними задачами плодит дублирующий труд почти без предельной научной ценности.

Можно ли доверять

Автор описывает личное участие в реальном событии, саммите о будущем математики в OpenAI, и называет реальных, узнаваемых участников (Себастьян Бубек, Джейкоб Цимерман); упомянутые эпизоды (доказательства гипотезы Фейге о 1/e, контрпример к гипотезе Якобиана) отсылают к проверяемой активности математического сообщества, а не к выдуманным событиям. При этом сам текст, заявленный автором мысленный эксперимент, а не прогноз: числовых данных за графиками роста arXiv и спада MathOverflow в тексте источника нет, а годы «2026, 2029», воображаемая автором хронология, а не то, что уже произошло.

Риски и подводные камни

Дублирующий труд разных групп и моделей, гоняющихся за одними и теми же гипотезами; система стимулов, вознаграждающая объём статей и решённых гипотез вместо понимания, то, что автор называет «игровым автоматом из гипотез»; уже заметный сдерживающий эффект, когда математики избегают обсуждать незавершённую работу, опасаясь обесценить её, если станет ясно, что задачу может решить модель; незаметные расхождения между формальными и неформальными формулировками, подрывающие доверие даже по мере удешевления автоформализации; и долгосрочный риск, что институты не адаптируют подготовку следующего поколения математиков и систему стимулов, оставив после себя много потраченных токенов, но мало подлинной вовлечённости в саму математику.

«Если мы продолжим в том же духе, думаю, доминирующей стратегией карьерного успеха, по крайней мере в среднесрочной перспективе, станет игра в «игровой автомат из гипотез».»

— автор эссе «Конец математики»