OpenJDK: в декодере Base64 на AVX-512 нашли ошибку, портящую кучу

OpenJDK: в декодере Base64 на AVX-512 нашли ошибку, портящую кучу

В репозитории OpenJDK открыт pull request №32781 с исправлением ошибки в декодере Base64. Его автор, albertnetymk. Заголовок PR: «8392044: AVX-512 Base64 decoder overwrites output buffer on short padded tail» (декодер Base64 на AVX-512 перезаписывает выходной буфер на коротком хвосте с дополнением).

Ошибка сидит в функции StubGenerator::generate_base64_decodeBlock(), в ветке для x86_64 с AVX-512 VBMI. Метка L_finalBit обрабатывает остаток в 1-63 байта маскированной векторной последовательностью, которая считает размер вывода как output_size = (len/4)*3. Корректный ввод Base64 всегда кратен 4 по длине, поэтому ошибка проявляется только на некорректных данных.

Триггер, длина остатка меньше 4. Пример из описания: строка "A".repeat(64)+"=" оставляет 1 байт после цикла L_process64Loop. Тогда output_size начинается с нуля, а путь обработки дополнения («=») уменьшает его ниже нуля, и получается неверная маска вывода output_mask. В итоге stub-код (низкоуровневая заготовка, генерируемая JVM) записывает данные за пределами логической длины результата до возврата в Java, и куча оказывается повреждена.

Предлагаемое исправление простое: если длина меньше 4, сразу вернуть управление в Java. Автор PR также подтверждает, что вклад сделан в соответствии с временной политикой OpenJDK по ИИ (Interim AI Policy).

На момент снимка PR не принят. По чек-листу бота нужно убрать лишние пробелы, сослаться в сообщении коммита на задачу и пройти ревью: требуются 2 ревью, из них минимум одно от Reviewer и одно от Author. Блокирует интеграцию и то, что бот не смог получить информацию о задаче 8392044 и просит убедиться, что она существует и доступна.

Ключевые факты

  • Ошибка в AVX-512 VBMI-ветке декодера Base64 в OpenJDK (x86_64): метка L_finalBit обрабатывает 1-63 байта остатка и считает output_size = (len/4)*3.
  • Срабатывает только на некорректном вводе с длиной остатка меньше 4, например "A".repeat(64)+"=" оставляет 1 байт после L_process64Loop.
  • output_size уходит ниже нуля, маска вывода получается неверной, stub пишет за пределы логической длины результата и портит кучу.
  • Предложенное исправление: при длине меньше 4 сразу возвращаться в Java.
  • PR №32781 не принят: нужны 2 ревью, а задачу 8392044 бот не смог получить.

Почему это важно

Повреждение кучи в рантайме Java, серьёзный класс дефектов, а Base64 используют повсеместно. Здесь ошибка сидит не в Java-коде, а в оптимизированной низкоуровневой заготовке для процессоров с AVX-512 VBMI. Её запускает некорректный ввод, а не нормальные данные. Из текста PR видно, как граничный случай (остаток короче 4 байт плюс дополнение) ломает расчёт маски записи.

Кому это важно

Разработчикам и сопровождающим OpenJDK, которые работают с кодом JIT-заготовок и интринсиков. Командам, которые запускают Java на x86_64 с AVX-512 VBMI и декодируют Base64 из внешних источников. Тем, кто следит за качеством и безопасностью памяти в рантаймах.

Как это применить

PR открыт для изучения: ветку можно получить локально командами из карточки (git fetch https://git.openjdk.org/jdk.git pull/32781/head:pull/32781, затем git checkout pull/32781) или через Skara CLI (git pr checkout 32781); diff доступен по адресу https://git.openjdk.org/jdk/pull/32781.diff. Воспроизвести проблему можно на примере из описания, вводе "A".repeat(64)+"=", на машине с нужным набором инструкций. Каких версий JDK это касается, в источнике не указано, так что до принятия исправления ориентируйтесь на обсуждение в самом PR.

Можно ли доверять

Источник, первичный: сам pull request в репозитории OpenJDK, диагноз приведён конкретно, с именем функции, меткой, формулой и примером. Но это пока предложение, а не принятое исправление: PR не слит, ревью не пройдены, а задачу 8392044 бот не смог получить. Идентификатор CVE и оценка серьёзности в тексте не упомянуты.

Риски и подводные камни

В описании сказано лишь, что на некорректном вводе портится куча; ни удалённая эксплуатируемость, ни выполнение произвольного кода в нём не заявлены. Не стоит достраивать эти выводы сверх написанного. Исправление в PR ещё может измениться по итогам ревью. В тексте речь только о ветке x86_64 с AVX-512 VBMI; про другие платформы и процессоры в источнике ничего не сказано.