Гауэрс объяснил, почему не подписал письмо медалистов Филдса про ИИ

Автор поста (перепечатанного также в блоге Теренса Тао) объясняет, почему не подписал письмо, под которым стоят подписи 25 медалистов Филдса, предупреждающее: массовое производство ИИ-решений математических задач может подменить собой концептуальное понимание, главную, по мнению авторов письма, цель математики. Автор согласен, что математическое сообщество столкнулось с кризисом, но предлагает своё, иное объяснение этого кризиса и вместо подписи изложил позицию отдельным постом, как уже делал ранее с Лейденской декларацией.

Он сразу проговаривает потенциальный конфликт интересов: у него есть контакты в математической группе OpenAI, ему давали ранний доступ к некоторым их моделям (обычно за несколько дней до публичного релиза) и бесплатный доступ к их Pro-моделям после выхода, но деньги от OpenAI он никогда не получал. Также он руководит кембриджской группой, занимающейся автоматическим доказательством теорем, и считает, что это скорее повод быть настроенным против ИИ: языковые модели уже доказывают теоремы без опоры на человеческие приёмы понимания, которые пыталась формализовать его группа, и часть смысла этой работы исчезла.

Ключевой тезис письма, который автор приводит дословно: решение задач, лишь инструмент и опосредованный показатель достижения главной цели, концептуального понимания, и если об этом забыть в эпоху ИИ, инструмент может обернуться против самой цели; массовое производство «истинно/ложно»-утверждений способно выжечь плодородную почву вместо того, чтобы питать новые идеи. Автор не разделяет именно эту рамку целиком. Его собственный взгляд, сформулированный ещё четверть века назад в эссе «Две культуры математики», в том, что в математике есть целый спектр установок: на одном полюсе, те, кого мотивирует решение задач, а понимание для них инструмент; на другом, те, кого мотивирует понимание, а решение задач инструмент. Он опасается, что письмо медалистов фактически объявляет «правильной» установкой именно ориентацию на понимание, и не хочет говорить значительной части математиков, включая себя, что их математический темперамент «неверен».

Далее он переходит от индивидуального понимания к коллективному и сравнивает два сценария развития событий. В первом, более вероятном, по его оценке, публично доступные модели начинают решать задачи лучше почти всех математиков, и даже оставшиеся сильные математики работают в разы быстрее благодаря моделям; ответы на давно интересовавшие сообщество вопросы посыпятся быстрее, чем сообщество способно их осмыслить, причём большинство ответов будет получено практически без усилий человека, простым «спасибо, продолжай». Во втором сценарии, по международному соглашению (по другим причинам) публичный релиз более мощных моделей блокируется, а математики внутри техкомпаний добровольно не подключают внутренние модели к крупным нерешённым задачам без запроса от представительного органа математического сообщества, который взвешивает пользу немедленного решения против пользы долгой самостоятельной работы над задачей.

Для индивидуального понимания, по мнению автора, поток новых крупных результатов не сильно всё изменит: и сегодня существующей математики намного больше, чем один человек способен усвоить, а по-настоящему глубоко понимаешь лишь то, что открыл сам. Позитивный сдвиг, расширится выбор результатов для изучения, а застряв, можно будет получить помощь от ИИ. Главный риск, люди перестанут месяцами и годами биться над трудными задачами самостоятельно, а именно эта борьба развивает понимание; автор сравнивает это с навигаторами: в принципе ничто не мешает прокладывать маршрут по карте самому, но на практике почти все выбирают навигатор.

Ключевые факты

Тимоти Гауэрс объяснил в посте (перепечатанном также у Теренса Тао), почему не подписал письмо 25 медалистов Филдса о рисках ИИ для концептуального понимания в математике
Он раскрыл возможный конфликт интересов: ранний бесплатный доступ к моделям OpenAI (в том числе Pro), контакты в их математической группе, но без оплаты со стороны компании
Его аргумент опирается на давнюю идею из эссе «Две культуры математики»: в математике есть спектр установок между решением задач и стремлением к пониманию, и письмо, по его мнению, объявляет одну из них «правильной»
Он сравнил два сценария будущего: свободный доступ к сверхсильным моделям-решателям против добровольного международного сдерживания релизов и самоограничения математиков в техкомпаниях
Главный риск для индивидуального понимания он видит не в избытке готовых ответов, а в том, что люди перестанут подолгу самостоятельно биться над трудными задачами, по аналогии с отказом от навигации по карте в пользу навигатора

Почему это важно

Спор идёт не о том, может ли ИИ решать математические задачи, это уже происходит, а о том, что в этом случае теряет само сообщество: если понимание строится через долгую самостоятельную борьбу с задачей, а не только через получение верного ответа, массовый и быстрый приток решений от моделей способен обесценить именно тот процесс, ради которого задачи вообще решают.

Кому это важно

Математикам и исследователям в целом, вузам и научным сообществам, выстраивающим политику использования ИИ в работе с открытыми проблемами, а также разработчикам моделей для доказательства теорем, чья мотивация, как признаёт сам автор, частично исчезает, если модели решают задачи без опоры на человеческие приёмы понимания.

Как это применить

Автор не даёт технических рекомендаций, это позиционный текст, а не инструкция. Практический вывод скорее организационный: сообществу стоит явно обсуждать, какие задачи отдавать моделям сразу, а над какими продолжать биться самостоятельно, и не сводить весь спор к одной «правильной» установке.

Можно ли доверять

Автор, известный математик, сам раскрывающий возможный конфликт интересов (ранний и бесплатный доступ к моделям OpenAI, контакты в их математической группе, но без оплаты), что повышает доверие к его аргументации, а не снижает его. Текст, личное мнение, а не исследование с проверяемыми данными; читатель получает позицию одного из ведущих математиков, полемизирующего с письмом коллег.

Риски и подводные камни

Ключевой риск, который называет сам автор, постепенная утрата привычки подолгу самостоятельно биться над трудными задачами, если ответы можно получить у модели почти без усилий; по его сравнению, это похоже на массовый отказ от навигации по карте в пользу навигатора. Также он предупреждает о риске раскола математического сообщества на «про-ИИ» и «анти-ИИ» лагеря, чего сам стремится избежать, не присоединяясь ни к одной из сторон.

«Решение задач, лишь инструмент и опосредованный показатель достижения главной цели: концептуального понимания и озарения. Забыть об этом в мире ИИ, значит обратить инструмент против самой цели. Массовое производство утверждений «истина/ложь» на всё большей скорости способно выжечь плодородную почву вместо того, чтобы питать новые идеи.»

— письмо 25 медалистов Филдса (цитата, которую автор приводит как его главный тезис)