AutoHebb: нейросети с хеббовской пластичностью учатся сами и без дообучения решают новые задачи
В препринте на arXiv представлен класс нейросетей AutoHebb (autonomous Hebbian networks, «автономные хеббовские сети»). Это сети прямого распространения с онлайн-обучением, которые, по словам авторов, сочетают сильные индуктивные смещения (встроенные допущения о структуре задач) и автономно управляемое обучение, оставаясь при этом простыми и выразительными.
Мотивация такая. Люди и животные умеют обобщать и учиться в новых обстоятельствах, в том числе делать «нулевой» вывод (zero-shot inference, ZI, вывод без примеров на новой задаче) и непрерывно обучаться (continual learning, CL). Авторы считают, что существующие модели этих способностей серьёзно ограничены. Во-первых, им обычно не хватает компонентов, критичных для ZI и CL в мозге: сильных индуктивных смещений (для ZI) и автономного управления обучением (для CL). Во-вторых, модели бывают трудны для анализа, если их компоненты слишком сложны, либо слишком узко заточены под задачу, если компоненты слишком специализированы.
Устройство AutoHebb отличается от стандартных моделей, которые учатся через внешне управляемую оптимизацию, например градиентный спуск. Здесь внешняя обратная связь объединяется с внутренне порождаемой активностью сети, и из них получается глобальный сигнал обучения («нейромодулятор»), возвращаемый в сеть. Этот нейромодулятор, в свою очередь, управляет (gates) биологически обоснованным локальным правилом обучения, хеббовским правилом с тремя факторами, которое обновляет пластичные веса сети. Фиксированные (непластичные) веса подбираются с помощью метаобучения.
Авторы сообщают четыре результата: AutoHebb-сети (1) успешно решают задачи ZI, (2) демонстрируют возникающие (необученные напрямую) способности к ZI и CL, (3) допускают обратную инженерию в явные алгоритмы и (4) превосходят современные модели обучения на задачах ZI и CL. Кроме того, сравнение с родственными моделями, по словам авторов, указывает на существенную роль трёх компонентов: метаобучения, хеббовской пластичности и автономного управления обучением. Авторы заключают, что AutoHebb может пригодиться для выдвижения гипотез, анализа и поиска биологически обоснованных форм обучения и обобщения.
Ключевые факты
- AutoHebb, класс сетей прямого распространения с онлайн-обучением, где глобальный сигнал «нейромодулятор» управляет локальным трёхфакторным хеббовским правилом обновления пластичных весов.
- В отличие от стандартных моделей с внешне управляемой оптимизацией (например, градиентным спуском), сигнал обучения формируется из внешней обратной связи и внутренне порождаемой активности сети.
- Непластичные веса ищутся метаобучением; авторы сообщают об успехе на задачах zero-shot-вывода и о возникающих (необученных) способностях к ZI и непрерывному обучению.
- Заявлено, что сети допускают обратную инженерию в явные алгоритмы и превосходят современные модели на задачах ZI и CL.
- Сравнения с родственными моделями, по словам авторов, указывают на важность трёх компонентов: метаобучения, хеббовской пластичности и автономного управления обучением.
Почему это важно
Работа затрагивает известную слабость современных нейросетей: способность обобщать на новых задачах без дообучения и учиться непрерывно. Авторы предлагают биологически мотивированную альтернативу обучению градиентным спуском: сеть сама регулирует, когда и как учиться, через внутренний нейромодулятор и локальное хеббовское правило.
Кому это важно
В первую очередь исследователям в области непрерывного обучения, метаобучения и вычислительной нейронауки. Авторы отмечают, что AutoHebb может пригодиться для выдвижения гипотез и анализа биологически обоснованных форм обучения и обобщения.
Как это применить
Практическое применение в тексте аннотации не описано; это исследовательский препринт. Для специалистов идея в том, чтобы сочетать метаобучение фиксированных весов с онлайн-обновлением пластичных весов по локальному правилу, управляемому глобальным сигналом.
Можно ли доверять
Это препринт на arXiv; все утверждения самоотчётные, независимой проверки нет. В тексте аннотации не указаны названия задач, наборы данных и количественные результаты, а также то, с какими именно «современными моделями» сравнивали, поэтому оценить масштаб превосходства по аннотации нельзя. Формулировки осторожны: сравнения «подразумевают» важность компонентов, а польза для генерации гипотез названа возможной.
Риски и подводные камни
Заявление о превосходстве над современными моделями не подкреплено в аннотации цифрами и условиями сравнения, поэтому обобщать его на практические задачи рано. Вывод о роли трёх компонентов получен из сравнений с родственными моделями и, по формулировке авторов, лишь подразумевается, а не доказан.