OpenAI обвинили в краже неопубликованного доказательства математиков
В посте в соцсети X (Twitter) появилось обвинение в адрес OpenAI: компания могла обучить свою систему Astra на приватной переписке, в которой математики Андреас Том и Габор Кун обсуждали гипотезу Громова о софичности, одну из десяти задач, которые OpenAI впоследствии объявила решёнными с помощью Astra. Обвинение Том изложил в развёрнутой записи на платформе Mastodon; саму эту запись и перечисленные в ней доказательства материал не приводит, сказано лишь, что Том представил несколько свидетельств в пользу такой версии.
Автор поста лично знаком с Томом и ручается за его репутацию: называет его выдающимся математиком, одним из ведущих специалистов по софическим и гиперлинейным группам и одним из самых уважаемых учёных в этой области, отмечая, что на эту задачу Том потратил два десятилетия.
Если рассказ Тома точен, пишет автор поста, речь идёт не о мелком споре об авторстве: это будет означать, что неопубликованная работа человека была поглощена моделью и затем представлена миру как её собственный прорыв.
Автор поста также напоминает о более ранних обвинениях такого же рода, их прежде выдвигали Левент Алпёге и Тристан Бакмастер; в чём именно они состояли и касались ли они OpenAI или Astra, в материале не уточняется. Если все три обвинения подтвердятся, добавляет автор, речь пойдёт не об отдельных случаях, а об одном из крупнейших научных скандалов в истории, и завершает пост фразой: «ИИ не открывает новую математику. ИИ крадёт человеческие открытия».
Дата записи Тома и дата объявления OpenAI о решённых Astra задачах в материале не указаны, ответа или комментария самой OpenAI тоже нет.
Ключевые факты
- Математик Андреас Том, специалист по софическим и гиперлинейным группам, потративший на задачу два десятилетия, написал в Mastodon, что нашёл несколько признаков того, что OpenAI могла обучить систему Astra на его приватной переписке с Габором Куном.
- Речь о гипотезе Громова о софичности, одной из десяти задач, которые OpenAI впоследствии объявила решёнными с помощью Astra.
- Автор поста в соцсети X, пересказавший обвинение, лично знаком с Томом и описывает его как одного из самых уважаемых учёных в этой области.
- Похожие обвинения ранее выдвигали Левент Алпёге и Тристан Бакмастер, подробности тех случаев в материале не раскрыты.
- Сама запись Тома на Mastodon и приведённые им доказательства в материале не изложены; реакции OpenAI на обвинение тоже нет.
Почему это важно
Если обвинение подтвердится, под вопросом окажется не только конкретный случай, а сама схема, которую используют в рассказах о прорывах ИИ в математике: компания заявляет, что модель самостоятельно решила задачу, которая долго не поддавалась учёным, хотя решение могло быть взято из чужой неопубликованной работы, к которой модель получила доступ через переписку. Для гипотезы Громова о софичности это означало бы, что настоящими авторами прогресса остаются Том и Кун, а не Astra, и что среди десяти задач, которые OpenAI объявила решёнными этой системой, как минимум одна решена не так, как было представлено.
Кому это важно
Прежде всего, математикам и исследователям, которые обсуждают неопубликованные результаты в переписке, на конференциях или в черновиках: если обвинение верно, такое обсуждение вслух перестаёт быть безопасным способом работать над задачей. Важно это и самой OpenAI: обвинение бьёт по её заявлениям об автономных научных открытиях Astra. И научному сообществу в целом, гипотеза Громова о софичности имеет долгую историю, ей занимались конкретные люди, и вопрос о том, кому принадлежит решение, здесь не абстрактный.
Как это применить
Из истории следует практический вывод для исследователей: делясь неопубликованными результатами в переписке или на открытых площадках, стоит сопровождать это датированной фиксацией авторства, препринтом, меткой времени, свидетелями, чтобы при похожем споре было на что сослаться. Читателям, которые следят за сообщениями о «математических прорывах» ИИ, стоит проверять, публикует ли компания вместе с заявлением независимо проверяемое решение, а не только факт «задача решена».
Можно ли доверять
Источник, пост в соцсети X, пересказывающий чужую публикацию: саму развёрнутую запись Тома на Mastodon и перечисленные им доказательства материал не приводит, сказано лишь, что они существуют. Не указаны ни дата записи Тома, ни дата объявления OpenAI о решённых Astra задачах, нет и ответа или комментария самой OpenAI. Автор поста ручается за репутацию Тома лично: пишет, что знаком с ним, и называет его ведущим специалистом в области, но это личное поручительство, а не независимая проверка или предъявленные доказательства. Более ранние обвинения Левента Алпёге и Тристана Бакмастера упомянуты без подробностей: неясно, в чём они состояли и касались ли именно OpenAI или Astra. Перед нами серьёзное, но пока непроверенное обвинение с недостающими деталями, а не установленный факт.
Риски и подводные камни
Если обвинение окажется необоснованным, репутационный удар по OpenAI и по Astra всё равно случится, на основании одного пересказанного поста, без ответа компании и без предъявленных доказательств. Если оно подтвердится, под сомнением окажутся не только эти десять задач Astra, но и сама практика показывать результаты работы ИИ без независимой проверки происхождения решения. Есть риск и для исследователей: если приватная переписка о нерешённой задаче может без спроса стать обучающими данными, открытое обсуждение черновых идей становится рискованным, а это скорее подтолкнёт учёных обсуждать такие вещи ещё более закрыто, чем защитит их работу.
«ИИ не открывает новую математику. ИИ крадёт человеческие открытия.»
— автор поста в соцсети X (Twitter)