Амит Сахаи в блоге Терренса Тао: ИИ в математике потребует намного больше математиков

Амит Сахаи, коллега Терренса Тао, опубликовал у него в блоге гостевой пост о будущем математики в эпоху ИИ. Его отправная точка: ИИ-системы, с которыми он работает, уже производят не просто впечатляющие вычисления, а по-настоящему новые и красивые идеи, и будущие системы, вероятно, пойдут значительно дальше. Сахаи вспоминает студентов времён своей учёбы, которые не выдерживали темпа, с каким лучшие однокурсники осваивали новые концепции, и в итоге бросали математику. Он опасается, что теперь в похожей ситуации окажется всё математическое сообщество: не успевая за темпом ИИ, исследователи будут соблазняться уйти из профессии. Отказаться от работы по осмыслению идей, по его мнению, было бы серьёзным пренебрежением коллективной ответственностью перед человечеством, сохранить будущее, в котором люди способны понимать открытия и участвовать в них, то есть сохранить осмысленную человеческую свободу воли.

Чтобы проиллюстрировать ставки, Сахаи предлагает гипотетический сценарий: ИИ-система предлагает принципиально новую конструкцию термоядерной электростанции мощностью один терраватт, нашедшую способ удержания и контроля синтеза, до которого не додумался ни один человек. Обещание, обильная, дешёвая и чистая энергия, а роботы готовы построить станцию. Но прежде чем одобрять строительство, по мнению Сахаи, нужно, чтобы сообщества людей понимали, почему конструкция работает и что обосновывает уверенность в её безопасности: нужно понимать модель, лежащую в основе доказательства, экспериментальные подтверждения и неопределённости этой модели, ведь, как он пишет, теорема существует только в рамках модели. Он подчёркивает: само по себе участие человека не улучшает техническое решение автоматически, и нет причин настаивать, чтобы люди вручную повторяли работу, которую ИИ может выполнить надёжнее, включая доказательство математических гарантий. Но если общество откажется инвестировать в собственную способность понимать происходящее, оно рискует прийти к будущему, где решения огромной значимости опираются на основания, которые не понимает ни одно человеческое сообщество, а это, по его словам, недопустимо, поскольку человеческая свобода воли имеет фундаментальную ценность.

Выход, который предлагает Сахаи, сформировать то, что он называет «мобилизуемым интеллектуальным резервом»: сообщества математически подготовленных людей, к которым человечество могло бы обращаться, чтобы разбираться в значимых прорывах, порождённых ИИ. Он представляет себе множество исследовательских групп, каждая из которых при устойчивой поддержке тратит семестр или год на то, чтобы понять экстраординарный набор идей, произведённых ИИ-системой, с помощью самих же ИИ-систем. Такая работа, по его словам, может оказаться одной из важнейших математических задач ближайших лет и заслуживает соответствующей поддержки и приоритета. Осуществление этого потребует значительного расширения числа математически подготовленных исследователей-людей по всему миру, по мере накопления прорывных идей. На возражение, что ИИ сделает каждого настолько эффективнее, что потребуется меньше людей, Сахаи отвечает: каждый человек ограничен биологией, а глубокое понимание требует времени и темпа жизни, посильного человеку, поэтому нужна не эффективность одиночек, а масштаб совместной работы сообществ. В примечаниях к посту он также отмечает, что независимая экспертиза критически важна: понимание не должно принадлежать только организации, предлагающей технологию, иначе на публичных слушаниях техническую аргументацию смогут проследить лишь эксперты самой компании.

Ключевые факты

Математик Амит Сахаи опубликовал гостевой пост в блоге Терренса Тао о будущем математики в эпоху ИИ
Тезис: ИИ-системы уже создают новые, а не только быстро воспроизводимые математические идеи, и человечеству понадобится значительно больше математически подготовленных исследователей, способных их понимать и проверять
Иллюстрация ставок, гипотетический сценарий с ИИ-проектом термоядерной электростанции мощностью один терраватт: без человеческого понимания модели и её гарантий строить такую станцию нельзя
Сахаи предлагает создать «мобилизуемый интеллектуальный резерв», сообщества математиков, готовые разбираться в прорывных ИИ-идеях за счёт совместной длительной работы
Автор подчёркивает, что человеческое участие не улучшает решение автоматически, но настаивает: сохранение осмысленной человеческой свободы воли и независимой экспертизы важнее чистой эффективности

Почему это важно

Пост поднимает вопрос, который выходит за рамки самой математики: если ИИ начнёт производить доказательства и инженерные решения, которые люди не успевают понять, кто и как будет проверять их безопасность и корректность. Сахаи формулирует это как коллективную ответственность научного сообщества, а не как техническую деталь.

Кому это важно

Материал адресован математикам и исследователям, которые ощущают, что не поспевают за темпом ИИ-систем, а также широкой аудитории, задумывающейся о том, кто в будущем будет проверять решения, основанные на ИИ-открытиях, от инженерных проектов до государственной политики.

Как это применить

Практического рецепта или продукта здесь нет: это призыв инвестировать в подготовку большего числа математически подготовленных людей и создавать устойчиво финансируемые исследовательские группы, способные месяцами разбираться в сложных ИИ-идеях, а не воспринимать замедление как повод уйти из профессии.

Можно ли доверять

Это авторское эссе-мнение, а не отчёт об исследовании или событии: автор, практикующий математик, работавший с современными ИИ-системами, публикация размещена в личном блоге Терренса Тао с его согласия. Сценарий с термоядерной станцией, прямо обозначенная гипотетическая иллюстрация, а не реальный проект. Автор также прямо указывает, что ИИ-система помогала ему в написании текста.

Риски и подводные камни

Главный риск, который описывает сам автор, не в тексте, а в реальности: решения огромной значимости могут в будущем опираться на основания, которые не понимает ни одно человеческое сообщество, если общество не успеет нарастить число людей, способных вникать в сложные ИИ-идеи. Текст не приводит конкретных примеров уже случившихся прорывов или сроков, это заявленная позиция автора, а не измеренный прогноз.

«Само по себе участие человека не улучшает техническое решение автоматически, и я не вижу причин настаивать, чтобы люди вручную повторяли работу, которую ИИ-система способна выполнить более надёжно, включая доказательство математических гарантий. Но теорема может существовать только в рамках модели.»

— Амит Сахаи