TACO: компилятор тензорной алгебры из Stanford и MIT CSAIL

TACO (Tensor Algebra Compiler), инструмент, который по описанию вычисления генерирует оптимизированные ядра для разреженной (и плотной) линейной и тензорной алгебры. По словам авторов со страницы проекта, он использует «новую технику на основе компилятора» и подстраивает ядро под конкретное вычисление.

Что поддерживается. Диапазон вычислений, от простого умножения разреженной матрицы на вектор до более сложных операций вроде MTTKRP на разреженных тензорах высокого порядка. Тензоры можно хранить в разных форматах: распространённых CSR и COO, а также специализированном CSF.

Про скорость. Авторы заявляют, что производительность TACO превосходит MATLAB Tensor Toolbox «вплоть до нескольких порядков величины» и конкурентна с другими высокопроизводительными библиотеками разреженной линейной и тензорной алгебры, Eigen, Intel oneMKL и SPLATT. Это верхняя оценка превосходства над одной библиотекой, а не типичный результат; методика замеров, оборудование и наборы данных на странице не приведены.

Удобство использования. Авторы утверждают, что сложные вычисления записываются в несколько строк кода. Есть API для C++ и Python, которыми можно пользоваться похоже на Eigen и SciPy. Консольная утилита и веб-инструмент позволяют собрать собственную библиотеку специализированных ядер и подключать её к приложениям.

Как начать. Код лежит на GitHub; в репозитории есть README со сборкой API для C++ и Python и консольной утилиты. Онлайн-документация описывает оба API и содержит примеры программ, у утилиты есть справка по ключу --help. Кроме того, TACO можно использовать как генератор кода прямо в браузере, ничего не скачивая. Об ошибках и идеях предлагают сообщать через issues на GitHub, а доработки приветствуются в виде pull request.

Кто делает. Проект разрабатывают и поддерживают участники исследовательской группы профессора Фредрика Кьёльстада (Fredrik Kjolstad) в Стэнфордском университете, участники группы COMMIT в MIT CSAIL под руководством профессора Самана Амарасингхе (Saman Amarasinghe) и другие участники. Работа опирается на исследования, поддержанные, среди прочих, Национальным научным фондом США, Министерством энергетики США, DARPA, Toyota Research Institute и Google Research Scholar Program. Авторы оговаривают, что выраженные мнения принадлежат разработчикам и не обязательно отражают взгляды финансирующих организаций.

Это общее описание проекта, а не сообщение о новом релизе: даты, номера версий и лицензия на странице не указаны.

Ключевые факты

  • TACO, компилятор, генерирующий оптимизированные ядра для разреженной и плотной линейной и тензорной алгебры: от умножения разреженной матрицы на вектор до MTTKRP на тензорах высокого порядка.
  • Поддерживаются форматы хранения CSR, COO и специализированный CSF.
  • Заявленная скорость: превосходит MATLAB Tensor Toolbox вплоть до нескольких порядков и конкурентна с Eigen, Intel oneMKL и SPLATT.
  • Доступны API для C++ и Python, консольная утилита и генератор кода в браузере; код размещён на GitHub, pull request приветствуются.
  • Проект развивают группа Фредрика Кьёльстада в Stanford и группа COMMIT (руководитель Саман Амарасингхе) в MIT CSAIL.

Почему это важно

Разреженные тензоры встречаются там, где данные в основном состоят из нулей, а универсальные библиотеки требуют отдельной ручной оптимизации под каждую комбинацию операций и форматов. TACO предлагает другой путь: описать вычисление кратко, а ядро сгенерировать компилятором. Новостью это не является: страница, общее описание проекта, без даты, версии и анонса изменений.

Кому это важно

Инженерам и исследователям, которые пишут вычисления над разреженными матрицами и тензорами на C++ или Python и хотят получать быстрые ядра без ручной настройки. Также тем, кто интересуется компиляторными подходами к линейной алгебре и хочет собрать свою библиотеку специализированных ядер.

Как это применить

Код TACO загружается с GitHub, README описывает сборку C++ и Python API и консольной утилиты. Для знакомства можно открыть браузерный генератор кода, ничего не устанавливая, затем посмотреть примеры в онлайн-документации. Консольная утилита (справка по --help) позволяет собрать собственную библиотеку ядер и подключить её к приложению. Лицензия на странице не названа, перед использованием в продукте её стоит проверить в репозитории.

Можно ли доверять

Источник, страница самого проекта, то есть заявления авторов, а не независимая проверка. Сравнение со скоростью MATLAB Tensor Toolbox «вплоть до нескольких порядков», верхняя граница; конфигурация замеров, оборудование, наборы данных и конкретные цифры ускорения не приведены. Утверждение о конкурентности с Eigen, Intel oneMKL и SPLATT также дано без деталей.

Риски и подводные камни

Слова об «удобстве» и «универсальности», самооценка авторов. Реальную производительность на своих данных нужно мерить самостоятельно. Дата последнего обновления и степень активности поддержки на странице не указаны, поэтому состояние проекта лучше проверить по репозиторию на GitHub.