OpenAI создала консультативный совет по математике после решения ИИ более 100 задач
В понедельник OpenAI объявила о создании независимой Консультативной группы по математике и искусственному интеллекту при Институте перспективных исследований (IAS) в Принстоне. По словам компании, группа должна дать математикам возможность влиять на то, как OpenAI ведёт исследования, связанные с математикой: «Эта группа станет мостом к математическому сообществу и широкой публике, дав математикам голос в том, как нам двигаться дальше», говорится в анонсе OpenAI.
Новость появилась вскоре после резонансной публикации: модель OpenAI решила одну из проблем тысячелетия, уравнения Навье, Стокса. Одновременно с анонсом группы компания заявила, что та же внутренняя модель решила ещё более 100 дополнительных открытых задач в большинстве областей математики, помимо решения задачи Навье, Стокса.
Темп этих результатов вызвал недовольство у части математического сообщества. Ранее в этом месяце 25 математиков, лауреатов медали Филдса, подписали открытое письмо, в котором утверждали, что ИИ-лаборатории угрожают интеллектуальному труду учёных, стремясь обогнать друг друга в решении известных математических задач.
Несмотря на название, новая группа получит в основном совещательные функции: она будет оценивать значимость новых результатов и координировать их публикацию. Участникам не платят, но они могут давать OpenAI непрошеные советы, публично высказывать своё мнение и сами решать вопросы членства в группе, это даёт им некоторую независимость от компании. При этом группа не получит права замедлять или перенаправлять текущие математические исследования OpenAI: в блог-посте компании прямо сказано, что «группа не будет отвечать за консультирование нас по темпу нашего внутреннего прогресса в математике». Институт перспективных исследований в собственном пресс-релизе подчеркнул то же самое: «Хотя мы будем давать советы, мы не обладаем правом принимать решения ни в одной ИИ-компании, и ответственность за решения любой компании остаётся на этой компании».
Первоначальный состав группы, девять известных математиков. Источник называет по имени только одного из них, Камилло Де Лелли из Института перспективных исследований, который оказался единственным членом группы, также подписавшим письмо лауреатов медали Филдса.
Ключевые факты
- OpenAI создала Консультативную группу по математике и ИИ при Институте перспективных исследований в Принстоне, она должна дать математикам голос в математических исследованиях компании
- Повод, заявление OpenAI, что её внутренняя модель решила более 100 дополнительных открытых задач в большинстве областей математики, помимо ранее объявленного решения проблемы Навье, Стокса
- Ранее в этом месяце 25 лауреатов медали Филдса подписали открытое письмо с критикой темпа, в котором ИИ-лаборатории соревнуются за решение громких математических задач
- По мандату группы, она не имеет права влиять на темп исследований OpenAI, это прямо оговорено в её задачах, участникам при этом не платят
- Из девяти названных участников группы только один, Камилло Де Лелли, ранее подписывал письмо лауреатов медали Филдса
Почему это важно
OpenAI впервые формализует независимый, хотя и совещательный, канал влияния математиков на собственные ИИ-исследования, на фоне заявлений о решении более сотни открытых задач, включая проблему Навье, Стокса. Это фактическое признание того, что темп публикации математических результатов ИИ обогнал возможности сообщества их проверять и осмыслять.
Кому это важно
Математикам и исследовательским институтам, которые всё чаще видят, как коммерческие ИИ-лаборатории публикуют результаты в их области без прежних процедур рецензирования; самой OpenAI и конкурирующим лабораториям, для которых темп публикаций стал предметом гонки и репутационных рисков; читателям, следящим за тем, как ИИ входит в фундаментальную науку.
Как это применить
Тем, кто следит за темой, стоит смотреть не на заявленное число решённых задач, а на то, публикует ли OpenAI сами решения и подтверждения независимых математиков, в источнике таких подробностей о проверке результатов нет. Стоит также следить за публичными высказываниями участников новой группы: по мандату они могут говорить открыто, и это единственный официальный канал независимой оценки.
Можно ли доверять
Источник, статья TechCrunch, опирающаяся на анонс OpenAI и пресс-релиз Института перспективных исследований, оба заявления процитированы напрямую. При этом в самом источнике нет ни точной даты объявления (только «в понедельник»), ни данных о том, кто и как проверял решение проблемы Навье, Стокса и остальные 100+ задач, ни имён восьми из девяти участников группы. Заявление о числе решённых задач исходит от самой OpenAI и пока не подкреплено независимой проверкой.
Риски и подводные камни
Главный риск, конфликт интересов: группа совещательная и не может ни остановить, ни замедлить публикации OpenAI, а институт, при котором она создана, сам публично снимает с себя ответственность за решения компании. Это оставляет открытым вопрос, который поставили лауреаты медали Филдса: способен ли кто-то извне повлиять на темп, если формально созданный для этого орган лишён такого права по уставу.
«Эта группа станет мостом к математическому сообществу и широкой публике, дав математикам голос в том, как нам двигаться дальше»
— OpenAI, из анонса создания группы