SanDisk и SK Hynix стандартизируют High Bandwidth Flash для ИИ-инференса
Рост языковых моделей требует всё больше памяти, и производители HBM и DRAM ускоряют строительство новых фабрик (первая по HBM должна заработать в 2027 году). На этом фоне поставщики флеш-памяти предлагают альтернативу, High Bandwidth Flash (HBF): ту же NAND-память, что стоит в SD-картах и флешках, но собранную в стек из нескольких кристаллов по тем же принципам 3D-упаковки, что используются в HBM для DRAM.
Обычная NAND-флеш медленно пишет данные (заряд приходится загонять в изолированный затвор транзистора), но быстро читает. Действующий стандарт интерфейса флеш-памяти даёт до 4,8 ГБ/с на кристалл, для сравнения, DDR5 даёт до 70,4 ГБ/с на модуль DIMM, а HBM4E, до 3,6 ТБ/с на стек, то есть примерно в 750 раз больше, чем у обычной флеш-памяти. HBF за счёт стекирования кристаллов должна заметно сократить этот разрыв, оставаясь при этом заметно дешевле HBM.
SanDisk уже опубликовал технические спецификации первого поколения HBF: стек до 16 кристаллов NAND-флеш общей ёмкостью до 512 ГБ и скоростью чтения до 1,6 ТБ/с. Второе и третье поколения по дорожной карте компании должны дать до 2 ТБ/с и 3,2 ТБ/с соответственно. До промышленных поставок первого поколения остаётся минимум год.
Смысл в разнице между обучением и инференсом моделей. Обучение нагружает память и на чтение, и на запись, веса пересчитываются на каждом шаге, поэтому медленная запись флеша делает его непригодным. Инференс работает иначе: веса модели заморожены и по сути доступны только на чтение, а значит слабое место флеша, запись, здесь не мешает. По словам старшего вице-президента SK Hynix по исследованиям систем памяти Хошика Кима, в инференс-системах на HBF можно безопасно держать статичные веса многомиллиардных моделей и предвычисленный KV-кэш, оставив HBM в роли быстрого «черновика» для активных вычислений.
25 февраля 2026 года SanDisk и SK Hynix провели стартовое мероприятие и открыли внутри Open Compute Project (OCP), отраслевого органа, задающего многие стандарты серверного «железа», отдельную рабочую группу по стандартизации HBF. Конкретных сроков публикации стандарта пока не назвали. SK Hynix подчёркивает, что HBF не конкурент HBM, а дополнение к ней: HBM остаётся более маржинальным продуктом и приносит компании рекордную выручку, но снятие нагрузки по ёмкости с HBM за счёт HBF, по расчётам Кима, позволит уменьшать число ускорителей на кластер, повышать энергоэффективность и снижать стоимость масштабирования ИИ-инференса в дата-центрах.
Ключевые факты
- 25 февраля 2026 года SanDisk и SK Hynix запустили в Open Compute Project совместную рабочую группу по стандартизации High Bandwidth Flash (HBF), флеш-памяти, собранной в стек по технологии, похожей на HBM.
- Первое поколение HBF от SanDisk: стек до 16 кристаллов NAND-флеш, до 512 ГБ ёмкости, скорость чтения до 1,6 ТБ/с; для сравнения, HBM4E даёт до 3,6 ТБ/с.
- Флеш не годится для обучения моделей (тяжёлая нагрузка на запись), но хорошо подходит для инференса: веса модели и KV-кэш почти не меняются, поэтому медленная запись флеша не мешает.
- Второе и третье поколения HBF по дорожной карте SanDisk должны дать до 2 ТБ/с и 3,2 ТБ/с; до промышленных поставок первого поколения остаётся минимум год, а сроки стандарта OCP пока не названы.
- SK Hynix называет HBF дополнением к HBM, а не конкурентом, хотя HBM остаётся более маржинальным продуктом и приносит компании рекордную выручку.
Почему это важно
Спрос на память для ИИ упирается в дефицит и высокую цену HBM и DRAM. HBF даёт производителям способ обеспечить ИИ-инференс дешёвой и ёмкой памятью без перестройки всего стека железа, потенциально сокращая число дорогих ускорителей, нужных для запуска крупных моделей.
Кому это важно
Производителям памяти (SanDisk, SK Hynix и, вероятно, другим игрокам рынка), разработчикам серверов и ускорителей для ИИ, а также облачным провайдерам, которые считают стоимость владения инференс-инфраструктурой.
Как это применить
HBF задумана не как замена HBM, а как дополнительный уровень памяти в инференс-системах: статичные веса модели и KV-кэш размещаются на HBF, а HBM остаётся быстрым «черновиком» для активных вычислений. Промышленных образцов первого поколения стоит ждать не раньше чем через год, а срок публикации самого стандарта OCP пока не объявлен.
Можно ли доверять
Материал IEEE Spectrum с цитатами независимого аналитика рынка памяти (Objective Analysis) и представителя SK Hynix; SanDisk уже опубликовал технические спецификации первого поколения HBF. При этом массовое производство ещё не началось, поэтому заявленные цифры пропускной способности и ёмкости пока не проверены независимо на серийном железе.
Риски и подводные камни
Стандарт HBF внутри OCP ещё не финализирован, и сроков его публикации нет. Реальная производительность и совместимость с существующими системами станут понятны только после выхода образцов. Для обучения моделей HBF не подходит вовсе, а выгода от неё в инференсе будет зависеть от того, насколько эффективно ПО и планировщики задач научатся распределять данные между HBM и HBF.
«Флеш-память крайне медленная на запись, но для чтения её можно разогнать до вполне приличной скорости. Именно к этому и стремится High Bandwidth Flash.»
— Джим Хэнди, генеральный директор Objective Analysis