Сэм Альтман заявил: память лучше держать в дата-центре, а не в ПК
Глава OpenAI Сэм Альтман в интервью подкасту Cheeky Pint ответил на вопрос о дефиците в цепочках поставок, в частности о нынешней нехватке оперативной памяти (RAM). По его мнению, с точки зрения глобального распределения ресурсов «ужасно», когда ограниченные мировые запасы DRAM лежат в персональных компьютерах, а не используются на максимуме в облаке. В том же выпуске Альтман высказался и о влиянии ИИ на математику.
Альтман отметил, что многие хотят локального запуска моделей (local inference) и почему-то считают проблему решённой: раз будут открытые модели, их можно будет запускать на своих компьютерах, и огромные мощности в дата-центрах не понадобятся. Но, по его словам, глобально плохо, когда у каждого стоит приличный кусок ограниченного мирового запаса DRAM, который «используется пять процентов времени». Цифра в пять процентов, оценка самого Альтмана, никаких данных или исследований в материале не приводится. Его вывод: в условиях жёсткого дефицита нужна максимальная загрузка в облаке, а интуиция многих людей, как он считает, подсказывает обратное.
Издание The Verge, на материал которого опирается пересказ, подаёт реплику на фоне того, что скупка памяти со стороны OpenAI давит на мировое предложение RAM, а глава компании «объясняет, зачем ему столько», это формулировка издания, а не слова Альтмана: в его цитатах собственные закупки OpenAI не упоминаются. Автор The Verge добавляет, что неважно, имел ли Альтман в виду игровые ПК или рабочие станции разработчиков вроде Surface RTX Spark Dev Box либо новый MacBook Pro с сенсорным экраном, итог один. По утверждению издания, Samsung и SK Hynix заключили долгосрочные контракты с операторами облачных сервисов и проектами вроде Stargate от OpenAI, и эти контракты закрепили за собой значительную часть мирового выпуска RAM на несколько лет вперёд. Именно миллиарды, которые покупатели готовы тратить на чипы, по мнению издания, делают ноутбуки, телефоны и другую технику дороже уже сейчас.
Ключевые факты
- Сэм Альтман в подкасте Cheeky Pint назвал «ужасным» держать ограниченные мировые запасы DRAM в персональных компьютерах вместо дата-центров.
- По словам Альтмана, память в ПК используется «пять процентов времени»; это его собственная характеристика, данные в материале не приведены.
- Он возразил тем, кто считает проблему решённой благодаря открытым моделям на своих компьютерах: в условиях дефицита нужна максимальная загрузка в облаке.
- The Verge пишет, что Samsung и SK Hynix заключили долгосрочные контракты с облачными операторами и проектами вроде Stargate, закрепив значительную часть мирового выпуска RAM на несколько лет.
- По мнению The Verge, из-за огромных затрат покупателей на чипы дорожают ноутбуки, телефоны и другая техника.
Почему это важно
Реплика главы одной из самых заметных ИИ-компаний показывает, как сторона, которая покупает память в больших объёмах, объясняет дефицит DRAM: по Альтману, эффективнее сосредоточить память в облаке, чем раздавать её в личные устройства. Это прямой довод против идеи, что открытые модели на локальных компьютерах снимут нагрузку с дата-центров. Фон, по данным The Verge, долгосрочные контракты производителей памяти с облачными операторами уже закрепили значительную часть мирового выпуска RAM на несколько лет.
Кому это важно
Тем, кто следит за рынком оперативной памяти и дорожающей электроникой: The Verge связывает рост цен на ноутбуки, телефоны и другую технику с миллиардами, которые покупатели тратят на чипы. Также материал любопытен сторонникам локального запуска нейросетей и разработчикам, которые выбирают между локальным оборудованием и облаком.
Как это применить
Прямых практических рекомендаций в материале нет: это интервью-мнение, а не новый продукт или инструмент. Полезно использовать аргумент Альтмана как точку зрения при обсуждении выбора между локальным запуском моделей и облаком, помня, что исходит он от стороны, заинтересованной в облачной модели.
Можно ли доверять
Цитаты Альтмана переданы The Verge дословно, и их суть подтверждается его собственными словами. Цифра «пять процентов времени», оценка самого Альтмана, ни данных, ни исследования в материале не названо. Формулировка «объясняет, зачем ему столько», рамка издания: в приведённых словах Альтмана собственные закупки OpenAI не упоминаются. Предположение о том, какие именно устройства он имел в виду (игровые ПК, Surface RTX Spark Dev Box, MacBook Pro с сенсорным экраном), домысел автора The Verge. Дата записи подкаста в материале не указана.
Риски и подводные камни
Альтман говорит как глава компании, которая сама является крупным покупателем вычислительных ресурсов, поэтому довод в пользу концентрации памяти в облаке нужно читать с учётом этого интереса. Масштабы закупок OpenAI, размеры контрактов Samsung и SK Hynix и величина удорожания устройств в материале цифрами не подтверждены. Реакции Samsung, SK Hynix и других компаний в тексте тоже нет.
«Но с точки зрения глобального распределения ресурсов на самом деле ужасно, когда у каждого есть кусок ограниченных мировых запасов DRAM, который стоит в его собственном компьютере и используется пять процентов времени.»
— Сэм Альтман, генеральный директор OpenAI, подкаст Cheeky Pint