Конфликт OpenAI с математиками обостряется из-за доказательств теорем
Двадцать пять математиков, каждый, лауреат Филдсовской премии (высшая награда в математике), подписали открытое письмо: они предупреждают, что ИИ-лаборатории, соревнуясь друг с другом в решении известных математических задач, угрожают самой сути научной работы. По их словам, решения часто объявляются в спешке, без времени на нормальное оформление доказательства, выделение новых методов и идей и указание вклада предыдущих исследователей. Это порождает серьёзные вопросы об авторстве и плагиате: без математиков, готовых довести доказательство до вида, пригодного для включения в математический канон, идеи, придуманные ИИ, никогда не станут по-настоящему живыми, а цепочка передачи знания между людьми будет разорвана.
Поводом для письма стал конкретный конфликт. На этой неделе профессор Нью-Йоркского университета Тристан Бакмастер обвинил OpenAI в том, что компания давила на него, требуя не указывать соавтора, сотрудника Anthropic, как участника решения важной математической задачи. Бакмастер также предположил, что OpenAI могла использовать наработки этого соавтора в Codex, чтобы за один интенсивный «уик-энд инференса» получить собственное громкое доказательство; само доказательство OpenAI при этом остаётся непроверенным. В четверг OpenAI отозвала спонсорство математического мероприятия в Калтехе, после того как исследователи университета публично раскритиковали компанию.
Авторы письма опасаются, что из-за подобных историй пострадает вся культура открытых исследований: сегодня, если передовая лаборатория видит перспективный путь к открытию, она может потратить десятки миллионов долларов на использование больших языковых моделей, чтобы опередить оригинальных исследователей с доказательством, а это стимулирует держать работу в секрете, а не публиковать её открыто. Письмо продолжает тему Лейденской декларации, которую в июне выпустила рабочая группа математиков: тот документ тоже разбирает, как доказательства, полученные с помощью языковых моделей, меняют работу математиков, и даёт рекомендации математикам, институтам и регуляторам.
Авторы проводят параллель с другими профессиями, от разработки программного обеспечения до иных научных и творческих областей, где ИИ уже меняет привычные рабочие процессы. Ценность математики, настаивают они, не сводится к самим доказательствам и тому, кому засчитан приоритет: важна и вся интеллектуальная надстройка вокруг неё, обучение студентов, поиск новых вопросов и идей и их включение в общечеловеческую культуру знания. Их предупреждение адресовано не только математикам: по их словам, схожие проблемы, вероятно, коснутся любой сферы, куда придёт ИИ.
Ключевые факты
- 25 математиков, лауреатов Филдсовской премии, подписали открытое письмо против гонки ИИ-лабораторий за решениями известных задач
- Профессор NYU Тристан Бакмастер обвинил OpenAI в давлении: компания якобы требовала не указывать соавтора из Anthropic среди решивших важную задачу
- Бакмастер предполагает, что OpenAI использовала наработки коллеги в Codex для собственного доказательства за один «уик-энд инференса»; само доказательство OpenAI остаётся непроверенным
- В четверг OpenAI отозвала спонсорство математического мероприятия в Калтехе после публичной критики со стороны исследователей университета
- Письмо продолжает тему Лейденской декларации (июнь): гонка за приоритетом ценой в десятки миллионов долларов стимулирует секретность вместо открытой публикации результатов
Почему это важно
Конфликт вокруг доказательства и обвинения профессора NYU иллюстрируют на конкретном примере то, о чём предупреждает открытое письмо: гонка ИИ-лабораторий за решением громких задач ставит под угрозу проверяемость результатов и справедливое распределение авторства. Если решения появляются в спешке, без нормального оформления и указания предыдущих работ, под вопросом оказывается не конкретное открытие, а сам механизм, которым математика, и наука в целом, накапливает и проверяет знание.
Кому это важно
Математикам и исследовательским институтам, которые формируют правила цитирования и признания вклада; ИИ-лабораториям вроде OpenAI и Anthropic, чьи модели и сотрудники оказываются в центре споров об авторстве; университетам вроде Калтеха, решающим, принимать ли спонсорскую поддержку таких компаний. Авторы письма прямо адресуют предупреждение и другим профессиям, от разработки программного обеспечения до прочих научных и творческих сфер, где похожий конфликт между скоростью ИИ и человеческими нормами атрибуции, по их мнению, ещё впереди.
Как это применить
Практических инструкций текст не даёт, это открытое письмо-предупреждение, а не техническое руководство. Тем, кого тема касается напрямую, стоит обратить внимание на Лейденскую декларацию (июнь): там рабочая группа математиков собрала конкретные рекомендации для математиков, институтов и регуляторов о том, как учитывать доказательства, полученные с помощью ИИ.
Можно ли доверять
Источник, TechCrunch, издание с проверяемой репутацией; факт существования письма и Лейденской декларации, а также цитаты из письма приведены напрямую, обвинение Бакмастера, от его имени. При этом в статье не названы ни один из 25 подписантов письма, ни коллега Бакмастера из Anthropic, ни исследователи Калтеха, критиковавшие OpenAI, их слова и претензии пересказаны без прямых цитат. Собственное доказательство OpenAI в статье названо «непроверенным», но без описания того, кто и как должен его проверять.
Риски и подводные камни
Главный риск, который называют сами авторы письма, стимул к секретности: раз опередить конкурентов в решении задачи выгоднее, чем сотрудничать открыто, лаборатории с бюджетом в десятки миллионов долларов могут предпочесть скрывать промежуточные результаты, а не публиковать их для проверки. Второй риск, размывание авторства: непризнанный вклад соавторов и непроверенные доказательства без нормального оформления и институциональной проверки могут закрепиться как факт науки прежде, чем сообщество успеет их перепроверить.
«Как и во всех творческих профессиях, это поднимает серьёзные вопросы об авторстве и плагиате. Более того, без готовых к этому математиков, которые должны заботиться о развитии и интеграции идей в математический канон, порождённые ИИ идеи никогда не станут по-настоящему живыми, а важнейшая цепочка передачи знания между математиками будет утрачена.»
— авторы открытого письма математиков