Более 700 статей OpenAI изменили математику, считает Калегари в блоге Тао

В гостевом посте на блоге Терри Тао математик Фрэнк Калегари (по его словам, он работает в алгебраической теории чисел и программе Ленглендса) разбирает реакцию коллег на выпуск OpenAI 6 октября более 700 научных статей. Он называет это водоразделом в истории математики: ИИ теперь бесспорно способен вносить прорывной вклад во многие области. Перед текстом стоит пометка, подписанная «T.»: пост был написан в другом формате файла и конвертирован с помощью ИИ.

Почему многие математики недовольны? Часть причин, по Калегари, в пренебрежении ИИ-компаний практикой математики: статьи OpenAI, несмотря на отдельные блестящие идеи, ужасно написаны, нарушают принятые в сообществе нормы указания авторства, а некоторые из них даже неверны (сколько именно, он не говорит). Но у сообщества гораздо больше контроля над тем, как нанимать математиков, публиковать статьи и учить студентов, чем над поведением компаний стоимостью в триллионы долларов, туда и стоит направить усилия. Другая причина, ощущение, что любимую науку «выхолащивают». Калегари возражает: релиз едва затронул общие проблемы функториальности и взаимности в программе Ленглендса, а даже решение всех её задач не «решило» бы теорию чисел, как построение периодической таблицы не решило химию. Центральные проблемы, лишь естественные границы нашего понимания, их преодоление открывает новые площадки для исследований.

Как самый тяжёлый случай он цитирует Юго Дюмини-Копена: ни одна из крупных открытых проблем, которые тот публично упоминал за карьеру (в докладе, статье или даже заявке на грант), не осталась нетронутой, по утверждению анонса, доказано всё. Калегари отвечает исторической аналогией, классификацией конечных простых групп. Дэн Горенстейн объявил программу в 1972 году, после примерно десятилетия бурной работы объявил классификацию завершённой в 1983-м (несколько преждевременно: случай квазитонких групп закончили Ашбахер и Смит лишь спустя ещё два десятилетия). Классификация была успехом, но и провалом: интерес к теме остыл, «знаменитая задача» исчезла. Между тем богатых вопросов в теории конечных групп остаётся много (например, почему существует Монстр, любимый вопрос Джона Конвея). Калегари просит не объявлять области «закрытыми», а видеть в новых инструментах повод для дальнейшего исследования, и поощрять такое поведение при найме. Пример подхода, работа Горенстейна, Лайонса и Соломона над пересмотренной классификацией.

Далее он говорит о перспективах. С 15 лет ему хотелось понять, «что происходит» за формулами, а не просто доказывать первую естественную гипотезу. За последние тридцать лет прогресс математики «руками людей» был впечатляющим, но Калегари тревожит, что математики разных уровней не могут объяснить даже коллегам из соседней области, чем интересна их работа: профессия склоняется к узкой технической экспертизе, а не к широкому видению. ИИ даёт шанс стать шире. В качестве примера он описывает давнюю идею о связи арифметических гиперболических трёхмерных многообразий с системами типа Колывагина («точки Хегнера»); он не занимался ею из-за множества условных гипотез и огромного объёма подготовительной работы, а теперь, с ИИ, барьеры для такой попытки гораздо ниже. Он не утверждает, что все обязаны (или не должны) пользоваться ИИ, но считает, что придётся пересмотреть, что важно: доказательства крупных гипотез останутся, но более фундаментальную роль сыграют широкие программы и структурное понимание. Он приводит мысль Кристиана Сегеди: математика гордилась меритократией и почитанием «исследователей-восходителей», а теперь важнее станут выбор территории, «управление флотами самолётов» и объяснение найденного миру. Для пессимистов игра окончена, для оптимистов, изменилась; отвернуться от нового инструмента ради сохранения нынешнего сообщества, по его мнению, было бы ошибкой.

Есть и «неприглядная правда»: на arXiv многие спешат выпустить ИИ-доказательства, чтобы быть «первыми». Растёт разрыв между умением получать новые доказательства и умением показать понимание или продвинуть предмет. Декларация Лейдена выполняется скорее формально, чем по духу. Калегари считает: кто выбрал достойную задачу, получил доказательство целиком с помощью ИИ, досконально его понял и развил из него новые вопросы, тот внёс существенный вклад, даже без нового ингредиента в самом доказательстве. Выбор задач может стать важнее выпуска доказательств. Одержимость гипотезами недооценивает исследовательскую работу, и эту ошибку сейчас рискуют повторить «стократно». Старших математиков с постоянной позицией он призывает создавать будущие задачи, а не только отвечать на готовые; тем, кто нервничает, что ИИ их опередит, он говорит: вы недостаточно амбициозны.

Наконец, он предлагает конкретику: рассуждения бесполезны без механизма влияния, а самые действенные рычаги, экономические, то есть найм и приём статей в журналах. Предложения: оценивать любую работу так, будто она выполнена с помощью ИИ; сделать найм куда более личным, а не опираться на папку статей, и собеседовать постдоков и аспирантов очно; требовать большего от журналов и уходить от тех, кто не соответствует. Доступный текст обрывается на этом третьем пункте списка, обещанные подробности в него не вошли.

Ключевые факты

Фрэнк Калегари в гостевом посте на блоге Терри Тао называет выпуск OpenAI 6 октября более 700 научных статей водоразделом: ИИ теперь способен на прорывной вклад во многих областях математики.
По его оценке, статьи OpenAI содержат сильные идеи, но плохо написаны, нарушают нормы указания авторства, а некоторые неверны; при этом программу Ленглендса релиз почти не сдвинул.
Аналогия с классификацией конечных простых групп (1972, программа Горенстейна, 1983, объявленная классификация, ещё два десятилетия на завершение): закрытие знаменитой задачи охладило интерес к области, поэтому нужно показывать, что остаются новые вопросы.
Калегари критикует гонку за «первенство» в ИИ-доказательствах и считает, что выбор достойных задач может стать важнее самих доказательств; старшим математикам советует быть амбициознее.
Предложения: оценивать любую работу как ИИ-ассистированную, чаще оценивать кандидатов при найме очно и требовать большего от журналов; текст источника обрывается на третьем пункте.

Почему это важно

Пост, редкая развёрнутая реакция практикующего математика на выпуск OpenAI более 700 статей. Автор прямо говорит, что ИИ уже способен на прорывной вклад, и предлагает не оплакивать профессию, а перестроить её ценности: от гонки за доказательствами к выбору задач, объяснению и структурному пониманию. Публикация на блоге Терри Тао придаёт тексту заметность, хотя отношение самого Тао к теме в тексте не раскрыто.

Кому это важно

Прежде всего математикам, которые решают, как оценивать работы, нанимать постдоков и аспирантов и какие журналы поддерживать. Также редакторам журналов и комиссиям по найму, а тем, кто следит за влиянием ИИ на науку, как пример реакции самой профессии, включая цитаты Юго Дюмини-Копена и Кристиана Сегеди.

Как это применить

Автор предлагает три практических шага для сообщества: оценивать любую работу так, как будто она сделана с помощью ИИ; строить найм на личном общении и очных собеседованиях, а не на папке статей; требовать от журналов большего и уходить от тех, кто не соответствует. Старшим математикам он советует заниматься созданием будущих задач и новых идей, а не только отвечать на существующие вопросы. Остальные детали списка в доступном тексте не вошли.

Можно ли доверять

Это авторская колонка, а не отчёт об исследовании: оценки («ужасно написаны», «некоторые неверны», «едва затронул») принадлежат Калегари, он не приводит числа неверных статей и не описывает, как проверял их. Ответа OpenAI в тексте нет. Цитата Дюмини-Копена дана без указания, где она опубликована. Пометка в начале сообщает, что пост конвертирован из другого формата с помощью ИИ. Доступный текст обрывается посреди списка предложений.

Риски и подводные камни

Сам автор называет риски: гонка за «первенством» в ИИ-доказательствах при растущем разрыве между умением доказывать и пониманием; формальное соблюдение декларации Лейдена; недооценка исследовательской работы, которую он сравнивает с ошибкой вокруг гипотез, «стократно» усиленной. Он также признаёт, что часть ценной культуры математики не переживёт перемен. Предложения по найму и журналам остаются лишь набросками: их подробности в доступном тексте отсутствуют.

«Если вы, будучи старшим математиком, переживаете из-за того, что ИИ вас опередит, значит, вы недостаточно амбициозны.»

— Фрэнк Калегари, гостевой пост в блоге Терри Тао