Пол Грэм: в 17 лет он бы изучал LLM с нуля, а не запускал стартап
Пол Грэм ответил в социальной сети X (Twitter) на вопрос, чем бы он занимался, если бы ему сейчас было 17 лет. По его словам, он не стал бы пытаться запустить стартап. Вместо этого он бы в первую очередь научился строить большие языковые модели (LLM) с нуля и тренировал бы такие модели настолько мощными, насколько позволяет любое доступное ему железо.
Свою логику Грэм поясняет так: сначала стоит заложить фундамент знаний, а бизнес строить на его основе уже позже. По его мнению, из глубокого понимания того, как устроены LLM, вырастают гораздо более сильные идеи для стартапов, чем из тех знаний, которыми он реально располагал в 17 лет.
Дальше он называет конкретное направление, которым занялся бы: попытался бы понять, почему языковые модели умеют писать за него эссе, но не умеют убираться у него в спальне. Ответ на этот вопрос он искал бы через профильные курсы в университете и аспирантуре, чтобы найти методы и архитектуры за пределами LLM, которые позволили бы быстро научиться выполнять физические задачи. На этом месте исходный пост обрывается на полуслове, не уточняя, какие именно задачи он имеет в виду.
Ключевые факты
- Пол Грэм написал в X: будь ему сейчас 17 лет, он бы не запускал стартап, а учился бы строить большие языковые модели (LLM) с нуля.
- Он тренировал бы такие модели настолько мощными, насколько позволяет доступное ему железо.
- По его словам, сильные идеи для стартапов вырастают из глубокого понимания LLM, а не из тех знаний, которыми он располагал в 17 лет.
- Отдельно он назвал бы направление для изучения: почему LLM умеют писать эссе, но не умеют убираться в спальне, ответ он искал бы через курсы в университете и аспирантуре.
- Пост набрал 445 очков и 552 комментария на Hacker News за 23 часа.
Почему это важно
Пост набрал большой отклик, 445 очков и 552 комментария на Hacker News за 23 часа, то есть тема задела многих в технологическом сообществе. Автор прямо противопоставляет два пути: пытаться запустить стартап на текущих знаниях, или сначала глубоко разобраться, как устроены большие языковые модели, и строить бизнес уже на этой основе. По его словам, второй путь ведёт к значительно более сильным идеям для стартапов.
Кому это важно
В первую очередь, тем, кто выбирает между тем, чтобы сразу пробовать запустить свой стартап, и тем, чтобы сначала получить глубокое техническое образование. Также это касается студентов и будущих исследователей, которые решают, какие курсы и направления выбрать в университете и аспирантуре: автор прямо называет учёбу в вузе и аспирантуре инструментом для того, чтобы разобраться в устройстве ИИ-систем глубже, чем позволяют сами LLM.
Как это применить
Практический совет автора, не бросаться сразу в стартап, а сначала самому разобраться, как большие языковые модели устроены на уровне архитектуры и обучения, и попробовать натренировать такую модель на том железе, которое реально доступно. Второй шаг, присмотреться к тому, где именно LLM буксуют (в примере автора, они умеют писать тексты, но не умеют убираться в спальне), и через профильные курсы в университете или аспирантуре поискать методы и архитектуры, которые закрывают именно этот разрыв.
Можно ли доверять
Это личное мнение автора, высказанное от первого лица в его собственном аккаунте в X, не исследование и не подкреплено данными или ссылками на результаты. Сам пост обрывается на полуслове, не дойдя до конца мысли о том, какие именно физические задачи LLM пока не даются: автор описывает направление поиска (методы и архитектуры за пределами LLM), но не называет конкретных технологий или задач. Это взгляд одного конкретного человека, а не проверенная методика.
Риски и подводные камни
Автор рассуждает о гипотетическом «если бы мне было 17», это ретроспективный взгляд человека, у которого уже есть многолетний опыт и понимание, какие знания оказались полезны; тому, кому 17 лет сейчас, придётся действовать без этого знания задним числом. Совет не поясняет, как решить реальное ограничение 17-летнего, доступ к вычислительным мощностям для тренировки крупных моделей стоит дорого, а текст лишь упоминает «любое доступное железо», не называя конкретных решений. Наконец, категоричное «не пытайся запустить стартап», личная позиция одного человека, а не универсальный рецепт для всех, кто в 17 лет думает о своём деле.
«Меня спросили, что бы я делал, если бы мне было 17. Я бы научился строить LLM с нуля, а затем обучал бы их так, чтобы получить как можно более мощные модели, используя любое железо, которое удалось бы раздобыть.»
— Пол Грэм, пост в X (Twitter)