Стартапы оптических вычислений метят в 10-80 раз экономнее GPU для ИИ

Стартапы оптических вычислений метят в 10-80 раз экономнее GPU для ИИ

Идее считать светом больше 70 лет, но до недавнего времени она оставалась в основном в лаборатории. По данным IEEE Spectrum, за последние годы оптические вычисления стали быстрорастущей отраслью: суммарная рыночная оценка компаний сектора достигла 2,22 млрд долларов против 0,4 млрд в 2022 году. Одна из прогнозных оценок предполагает, что рынок продолжит расти экспоненциально. Причина, ИИ, прежде всего инференс (ответы моделей на запросы пользователей): он занимает основную долю энергопотребления ИИ и стал причиной строительства огромных энергоёмких дата-центров. Питер Макмахон, доцент Корнеллского университета, который больше десяти лет занимается оптическими вычислениями, говорит, что интерес к фотонике во многом вызван тем, что инференс буквально упёрся в ограничение по мощности. Стартапы появляются в США, Китае, Германии и Израиле.

В основе, умножение вектора на матрицу, главная операция инференса. В 1978 году пионер оптических вычислений Джозеф Гудмен с коллегами предложил схему: N светодиодов кодируют элементы вектора яркостью, цилиндрическая линза размножает свет N раз, затем свет проходит через аттенюатор N×N пикселей, где ослабляется согласно значениям матрицы (это и есть умножение), а вторая линза собирает свет по строкам, суммируя его; результат считывают детекторы. Довод в пользу оптики: в электронике энергия растёт как N², а в оптике умножение пассивно, пока матрица не меняется, и платить нужно только за кодирование вектора длины N и считывание ответа, так что энергия растёт как N.

В 2022 году группа Корнелльского университета под руководством Макмахона показала оптическую нейросеть, которая тратила меньше одного фотона энергии (около 2,5·10⁻¹⁹ Дж) на умножение. В обычном компьютере одно умножение стоит от 10⁻¹⁴ до 10⁻¹² Дж, откуда можно вывести возможное снижение энергозатрат в 100 000 раз. Но Макмахон предостерегает от такой экстраполяции. Во-первых, в расчёт не вошла стоимость кодирования данных в свет; важны не только масштабирование, но и коэффициенты: если умножение в электронике стоит 1 пикоджоуль, а кодирование одного элемента вектора в оптике, 1000 пикоджоулей, электроника выигрывает при длине вектора меньше 1000. По его словам, пример недалёк от реальности: начиная выигрывать оптика должна при N примерно от 1000 до 10 000 (он называет это очень грубой оценкой). Во-вторых, действует закон Амдала: если ускоритель берёт на себя 90% кода, а 10% не может, максимальное ускорение, 10 раз. В инференсе важна энергия, а не время, но принцип тот же: умножение матриц, лишь часть нагрузки, есть и нелинейные операции, так что оптика не заменит 100% кода. С учётом оговорок компании целятся в выигрыш по энергоэффективности относительно сегодняшних GPU в 10-80 раз; вопрос в том, успеют ли они дойти до массового масштаба раньше, чем традиционная электроника подтянется до таких показателей.

Lumai (Оксфорд, Англия) ближе всех к схеме Гудмена и использует «свободное пространство»: свет идёт по воздуху, а не по волноводам на чипе. Вместо фиксированного аттенюатора, программируемый пространственный модулятор света (пиксельная мембрана вроде жидкокристаллического дисплея, меняющая интенсивность и фазу света). Нелинейные функции выполняет электроника. Руководитель продукта Lumai Филлип Бёрр говорит, что полное умножение вектора на матрицу завершается за один оптический цикл. Компания, как и другие в отрасли, нацелена на самую вычислительно тяжёлую фазу инференса, prefill (обработку входного запроса). По заявлению Lumai, её оптический сервер Iris Nova, доступный для оценки с апреля 2026 года, доказательство концепции, а сервер следующего поколения Iris Aura выполнит prefill примерно с одной десятой энергии, которую потратил бы GPU.

Neurophos (Остин, Техас) развивает ту же схему на метаматериалах, структурах, управляющих светом на масштабах порядка длины волны; её элементы имеют размер в несколько микрометров. Генеральный директор Патрик Боуэн говорит, что оптический аналог транзистора из стандартной кремниевой фотоники имеет длину около 2 мм, и разместить достаточно таких элементов на чипе для конкурентной плотности вычислений нельзя. Модуляторы Neurophos образуют массив 1000×1000 на квадратном чипе со стороной 5 мм и, по словам Боуэна, переключаются более чем в 10 000 раз быстрее обычных жидкокристаллических модуляторов. Цель компании, 50-кратная скорость и 35-кратная энергоэффективность относительно Nvidia Blackwell B200, а в следующих поколениях, 250-кратная скорость и около 90-кратная энергоэффективность. Подход совместим с CMOS, что, по словам Боуэна, позволит выпускать чипы на существующих массовых линиях. Сейчас компания выбирает площадку для производства; поставки стоек клиентам запланированы на 2028 год. Бёрр добавляет, что кремний продолжит улучшаться, но выигрыш цифровой электроники приходит всё медленнее и дороже, а оптика даёт иную зависимость: эффективность растёт с размером матриц. Также упомянута британская Optalysys, которая встраивает оптические элементы в сетевой тракт, где дата-центры и так используют свет. Йельский профессор Логан Райт считает, что для технологии было бы полезно, если бы многие из этих компаний всерьёз попробовали себя.

Ключевые факты

  • Суммарная оценка компаний в оптических вычислениях, 2,22 млрд долларов против 0,4 млрд в 2022 году; драйвер, энергопотребление ИИ-инференса.
  • Принцип: в оптике умножение матрицы на вектор пассивно, и энергия растёт как N, а не N²; но по оценке Макмахона, выигрыш начинается лишь при N порядка 1000-10 000, и нелинейные операции оптике недоступны.
  • Компании метят в 10-80 раз лучшую энергоэффективность, чем у нынешних GPU; это цели и заявления, а не независимо измеренные результаты.
  • Lumai: Iris Nova, доказательство концепции (оценка с апреля 2026), Iris Aura обещает prefill примерно за одну десятую энергии GPU.
  • Neurophos: массив 1000×1000 модуляторов на чипе 5×5 мм, цель, 50-кратная скорость и 35-кратная энергоэффективность относительно Blackwell B200, поставки стоек в 2028 году.

Почему это важно

Инференс стал основной статьёй энергопотребления ИИ, и электронные GPU упираются в мощность. Оптика, по словам статьи, на бумаге обещает те же вычисления при радикально меньшей мощности, а интерес к ней вылился в рост оценки отрасли с 0,4 до 2,22 млрд долларов за период с 2022 года. Одновременно инвестиции стимулируют смежные направления: альтернативные ИИ-алгоритмы, научные вычисления и вычисления внутри сети.

Кому это важно

Разработчикам ускорителей и операторам дата-центров, для которых энергия стала главным ограничителем; инвесторам, оценивающим стартапы в фотонике; исследователям в области физики и аппаратного обеспечения ИИ. Для остальных это ориентир, куда может двинуться железо для инференса, но не готовый продукт.

Как это применить

Прямого применения сейчас нет: Iris Nova Lumai доступна только для оценки и названа самой компанией доказательством концепции, а стойки Neurophos обещаны клиентам на 2028 год. Практический вывод, следить за тем, как компании покажут измеренные результаты на реальных моделях, особенно для фазы prefill, на которой они сосредоточены. Цен и условий поставки в материале нет.

Можно ли доверять

Материал IEEE Spectrum, обзор с комментариями независимых учёных (Макмахон, Райт) и представителей компаний. Все цифры об эффективности относительно GPU, цели или заявления Lumai и Neurophos; независимых замеров их оборудования в тексте нет. Источники оценки рынка 2,22 млрд долларов и прогноза экспоненциального роста не названы. В разборе использована первая часть статьи: конец текста обрезан.

Риски и подводные камни

Оценка в 100 000 раз экономии из корнелльского опыта не учитывает стоимость кодирования данных в свет. Выигрыш, по грубой оценке Макмахона, появляется только при очень больших размерах системы (N от 1000 до 10 000). Закон Амдала ограничивает долю кода, которую оптика способна ускорить, потому что часть операций нелинейна. Наконец, открытым остаётся вопрос, смогут ли оптические компании выйти на большой масштаб раньше, чем традиционная электроника приблизится к их показателям.

«Большая часть интереса к [фотонике] вызвана тем, что инференс ИИ буквально упёрся в ограничение по мощности, причём весьма разительным образом.»

— Питер Макмахон, доцент Корнеллского университета