NASA и IBM выпустили открытую модель Lunar Foundation Model для науки о Луне

NASA и IBM выпустили открытую модель Lunar Foundation Model для науки о Луне

NASA и IBM Research при участии нескольких университетов и научных организаций выпустили NASA-IBM Lunar Foundation Model, открытую фундаментальную модель для лунной науки. Сами организации называют её одной из первых открытых фундаментальных моделей для лунной науки. Главный специалист NASA по научным данным Кевин Мерфи объясняет смысл так: NASA десятилетиями собирала научную летопись Луны, но сбор данных, лишь часть работы, их ещё нужно сделать удобнее для учёных.

Фундаментальная модель заранее обучается на больших объёмах неразмеченных данных, а затем адаптируется к конкретным задачам по нескольким размеченным примерам. Для лунных исследований это важно: наблюдений много, а размеченных данных мало.

Обучали модель с нуля на корпусе SomBench, который, по словам команды, крупнейший на сегодня согласованный по координатам мультимодальный лунный набор данных. В нём почти 2 млн пакетов тайлов (фрагментов карты) в 11 модальностях и двух пространственных масштабах. Около 1 млн снимков высокого разрешения получены камерой Narrow Angle Camera (NAC) с разрешением примерно 1 метр на пиксель, чуть менее 964 тысяч мультиспектральных снимков, широкоугольной камерой Wide Angle Camera (100 метров на пиксель). Основная часть данных, 17 лет наблюдений аппарата Lunar Reconnaissance Orbiter (LRO); по данным NASA, их объём превышает объём данных всех остальных планетарных миссий агентства вместе взятых. Дополняют их данные миссии GRAIL (поле тяготения), Lunar Prospector (водород) и японского зонда Kaguya/SELENE (минералогия). Всего набор объединяет более 30 пространственно совмещённых слоёв данных от девяти приборов и четырёх миссий. Чтобы данные обучения, проверки и теста не «просачивались» друг в друга, корпус делили по географическим зонам карты, а не случайным образом по тайлам.

Модель основана на TerraMind, мультимодальной модели для наблюдения Земли, но исследователи обучили её с нуля, а не дообучали. Для каждого тайла модель получает геометрию съёмки как явный контекст: углы освещения, положение Солнца и протяжённость тайла. На Луне освещение влияет на вид поверхности гораздо сильнее, чем её реальные свойства, поэтому команда не заставляет модель вычислять его по пикселям, а подаёт эти сведения напрямую. Снимки высокого и низкого разрешения модель изучает вместе за один прогон обучения, а технология FlexiViT позволяет одной обученной модели работать с разным размером участков изображения без переобучения.

Модель проверяли на поиске кратеров в масштабах 100 м и 1 м, на предсказании полярных залежей льда и на сегментации Irregular Mare Patches (IMP), молодых вулканических образований, которые ставят под сомнение принятые схемы остывания Луны. По техническому отчёту, на всех задачах обученная модель не хуже, а то и лучше типовых базовых моделей и архитектурно идентичной контрольной модели со случайной инициализацией. Сильнее всего выигрыш в предсказании льда: постоянно затенённые полярные области достаточно холодны, чтобы миллиарды лет сохранять водяной лёд, и считаются потенциальным источником воды, кислорода и ракетного топлива. По данным IBM, ошибка предсказания снизилась до 22% относительно лучшей базовой модели SwinV2-B. В крупномасштабном поиске кратеров модель обошла SwinV2-B почти на 19% по данным IBM, при обучении лишь на половине данных, что говорит о меньшей потребности в размеченных примерах. Какая именно метрика стоит за этими цифрами, в источнике не указано.

Преимущество не везде бесспорно. В поиске кратеров метрового масштаба и сегментации IMP модель примерно равна сильнейшим базовым, а разница укладывается в разброс между запусками обучения. IBM заявляет о 3% преимущества над SwinV2-B на IMP, но результаты скорее сопоставимы, чем явно лучше. Даже контрольная модель со случайной инициализацией и без лунного предобучения превзошла пять из семи базовых моделей по предсказанию льда. По словам исследователей, часть преимущества даёт обработка данных: каждому слою данных отведён свой путь обработки, тогда как базовые модели принимают все входы как стопку каналов. LoRA, облегчённый метод дообучения, при котором настраивается лишь доля параметров, не уступил полному дообучению и лучше справился с поиском кратеров; полное дообучение выигрывает только на двух самых малых задачах.

Директор IBM Research Europe Хуан Бернабе-Морено говорит, что модель связывает наблюдения разных приборов и выявляет закономерности, которые трудно заметить по отдельности. Для абсолютного геодезического позиционирования модель не годится: в тестах генерации широта и долгота в ряде случаев ошибались на десятки градусов, а рельеф мог получаться со смещёнными абсолютными значениями высоты, даже когда формы восстановлены верно. Авторы видят в ней переиспользуемую основу для прикладных задач, а не замену физическим измерительным приборам. Контролируемые эксперименты, отделяющие вклад каждого нововведения, ещё впереди, а часть тестовых наборов невелика.

Модель доступна на Hugging Face, код, на GitHub, она встроена в открытый набор инструментов TerraTorch. Команда также опубликовала готовые для машинного обучения наборы данных для предобучения и тестовые наборы. Работа входит в сотрудничество NASA и IBM «AI for Science»: по соглашению Space Act Agreement организации развивают фундаментальные модели с начала 2022 года, а в августе 2023 года выпустили первую модель Prithvi на Hugging Face (снимки Landsat и Sentinel-2 по всей континентальной территории США, адаптация для картирования наводнений и лесных пожаров). TerraMind IBM разработала в 2025 году вместе с ESA и Forschungszentrum Jülich.

Ключевые факты

  • NASA и IBM Research выпустили открытую модель NASA-IBM Lunar Foundation Model; веса на Hugging Face, код на GitHub, интеграция в TerraTorch.
  • Обучение с нуля на корпусе SomBench: почти 2 млн пакетов тайлов, 11 модальностей, более 30 слоёв данных от девяти приборов и четырёх миссий; основа, 17 лет наблюдений LRO.
  • Лучший результат, предсказание полярного льда: ошибка ниже до 22% относительно SwinV2-B (по данным IBM); в крупномасштабном поиске кратеров, почти на 19% при половине данных.
  • На метровых кратерах и сегментации IMP модель лишь примерно равна сильнейшим базовым; заявленные IBM 3% на IMP, по оценке источника, скорее сопоставимы, чем лучше.
  • Для абсолютного геодезического позиционирования не годится: широта и долгота в тестах ошибались на десятки градусов.

Почему это важно

Лунных наблюдений накоплено много, а размеченных данных для обучения алгоритмов мало. Фундаментальная модель, предобученная на неразмеченных данных, позволяет адаптировать её к новым задачам по нескольким примерам. NASA и IBM называют этот релиз одной из первых открытых фундаментальных моделей для лунной науки; кроме того, публикуются готовые наборы данных и тесты, то есть у других групп появляется общая основа для сравнения.

Кому это важно

Учёным-планетологам и командам, которые работают с орбитальными данными Луны: поиск кратеров, оценка залежей льда в затенённых полярных областях, изучение молодых вулканических образований. Также исследователям машинного обучения, которым нужны открытый корпус SomBench и тесты для мультимодальных геопространственных моделей.

Как это применить

Модель доступна на Hugging Face, код опубликован на GitHub, и она интегрирована в открытый набор инструментов TerraTorch. Опубликованы также готовые для машинного обучения наборы данных для предобучения и тестовые наборы. По данным исследователей, для настройки под конкретную задачу достаточно облегчённого метода LoRA: он не уступает полному дообучению, а на поиске кратеров даже лучше; полное дообучение выигрывает лишь на двух самых малых задачах.

Можно ли доверять

Основные цифры (до 22%, почти 19%, 3%), заявления IBM из технического отчёта в сравнении с лучшей базовой моделью SwinV2-B; какая именно метрика за ними стоит, в источнике не сказано. Статья сама отмечает, что на части задач результаты в пределах разброса между запусками, а контролируемые эксперименты по вкладу каждого нововведения ещё не проведены, и некоторые тестовые наборы невелики.

Риски и подводные камни

Модель не подходит для абсолютного геодезического позиционирования: в тестах генерации широта и долгота в ряде случаев отличались на десятки градусов, а высоты могли быть смещены. Авторы подчёркивают, что это основа для прикладных задач, а не замена физическим измерениям. Часть тестовых наборов мала, а прирост по некоторым задачам сопоставим с разбросом между запусками обучения, поэтому общие выводы о превосходстве стоит делать осторожно.

«NASA десятилетиями создавала выдающуюся научную летопись Луны, но сбор данных, лишь часть работы.»

— Кевин Мерфи, главный специалист NASA по научным данным