Кевин Келли: почему будущее, это «протопия», а не утопия
На блоге kevinkelly.substack.com вышло эссе «Protopia», впервые развёрнутое изложение идеи, которую автор придумал в 2011 году, но раньше нигде подробно не описывал. Он противопоставляет три образа будущего. Утопия, мир, где проблемы устранены целиком; автор называет её одновременно невозможной и нежелательной: невозможной, потому что именно трение проблем толкает прогресс вперёд, а без давления новых трудностей нет причин для развития; нежелательной, потому что единая «оптимальная» ценность утопии для одного человека станет тюрьмой для другого. Дистопия, мир сплошных проблем; она, по мнению автора, доминирует в массовой культуре не потому, что реалистичнее, а потому что ломать легче и зрелищнее, чем строить: путей всё испортить всегда больше, чем путей сделать правильно, и почти любой современный фильм о будущем, про катастрофу.
Вместо этих крайностей автор предлагает «протопию», слово, где «про» несёт смысл «прогресса» и «процесса» (движение, а не место назначения). Это будущее, которое лишь немного лучше сегодняшнего: по его формулировке, «может быть, на один-два процента лучше, чем в прошлом году». Ключевая мысль, не сам процент, а то, что он копится год за годом: именно так, по словам автора, возникли дороги, библиотеки, законы, грамотность и системы здравоохранения, не разовым скачком, а накоплением нескольких процентов улучшения ежегодно. Если создавать хотя бы на 1% больше, чем разрушать, каждый год, прогресс идёт, даже если 49% мира остаются «дрянью, ужасом, болью и худшим», а различимы лишь оставшиеся 51% хорошего, разница между ними слишком мала, чтобы её заметить иначе как задним числом, оглядываясь на десятилетия назад. Тремя веками ранее, пишет автор, почти все люди на земле могли быть только крестьянином, женой крестьянина, кузнецом или пекарем; сегодня выбор профессий несравнимо шире, вплоть до «инженера промптов».
Протопия, по мысли автора, не отменяет новые проблемы, а производит их наравне с новыми решениями: каждое изобретение решает старую проблему и рождает новую (корабли, кораблекрушения, дешёвая еда, ожирение), причём чем мощнее изобретение, тем мощнее и порождаемые им проблемы. ИИ автор называет самой мощной из изобретённых человеком технологий, которая создаст самые серьёзные проблемы из всех, что у нас были; языковые модели он сравнивает с малышами и говорит, что понадобятся десятилетия, прежде чем станут ясны их реальные плюсы и минусы. Но именно цикл «проблема, решение, новая проблема» и есть механизм роста возможностей: с каждым витком у людей появляется чуть больше способов зарабатывать, выражать себя и жить. Компаундирование, предупреждает автор, работает только без катастрофического разрыва: астероид или ядерная война способны отбросить цивилизацию на века назад, поэтому институты типа отслеживания астероидов и ядерного контроля остаются нужны. Итоговый призыв эссе, тренировать воображение именно на образе «немного лучше», а не на утопии или готовых киношных сценариях конца света.
Ключевые факты
- Автор эссе, на блоге kevinkelly.substack.com, впервые развёрнуто описал термин «протопия», придуманный им в 2011 году: будущее, улучшающееся на 1, 2% в год, а не резким скачком.
- Утопию автор называет одновременно невозможной (без трения проблем нет прогресса) и нежелательной (единая идеальная ценность для одного станет тюрьмой для другого); дистопию, доминирующей в кино и медиа просто потому, что ломать эффектнее и легче, чем строить.
- Формула протопии: если создавать хотя бы на 1% больше, чем разрушать, каждый год, прогресс идёт, даже когда 49% мира остаются плохими, а разница в 1, 2% незаметна иначе как в ретроспективе десятилетий.
- ИИ приведён как пример: автор называет его самой мощной изобретённой технологией, которая породит самые большие проблемы, а языковые модели сравнивает с малышами, чьи реальные плюсы и минусы прояснятся только через десятилетия.
- Компаундирование улучшений работает только без катастрофического разрыва, вроде удара астероида или ядерной войны, которые способны отбросить цивилизацию на века назад.
Почему это важно
Эссе даёт готовую рамку для разговора о будущем технологий, в том числе ИИ, вне двух исчерпавших себя крайностей, утопического «всё решится» и дистопического «всё рухнет». Автор, фигура с многолетней репутацией в технологическом футуризме (ведёт собственный блог на Substack и использует термин «протопия», придуманный им в 2011 году), предлагает мерить прогресс не разовым прорывом, а накопленным за годы небольшим перевесом создания над разрушением.
Кому это важно
Тем, кто формирует или потребляет разговор о будущем ИИ и технологий: комментаторам и аналитикам, уставшим от маятника «ИИ спасёт всех» / «ИИ всех погубит»; читателям, которые хотят рамку для оценки новостей о прогрессе без скатывания в панику или эйфорию; самому автору эссе как манифест идеи, которую он развивал больше десяти лет, но подробно не формулировал.
Как это применить
Автор предлагает конкретный тест: оценивать не текущее состояние мира (оно всегда будет «наполовину плохим»), а знак и размер годового изменения, создаётся ли хотя бы немного больше, чем разрушается. Для новостей об ИИ это означает не искать один эффектный сигнал «прорыв» или «катастрофа», а держать в уме, что реальный эффект технологии проявится через десятилетия компаундирования, как в случае с языковыми моделями, которые автор называет ещё «малышами».
Можно ли доверять
Это авторское эссе-манифест, а не исследование: в тексте нет ссылок на данные, источники или цитируемые работы, только рассуждение и примеры, которые автор приводит от себя. Оценивать стоит как персональную философскую позицию известного технологического комментатора, а не как проверяемый факт или статистику.
Риски и подводные камни
Ключевые числа эссе (1, 2% улучшения в год, «49% на 51%»), риторические иллюстрации автора, а не измеренные величины; проверить их эмпирически невозможно, и сам текст не претендует на это. Автор прямо оговаривает главное уязвимое место концепции: компаундирование работает только при отсутствии катастрофического разрыва, удара астероида, ядерной войны или иного события, способного отбросить цивилизацию на века назад.
«ИИ, самая мощная технология, которую мы изобрели, и она породит самые большие проблемы, какие у нас когда-либо были.»
— из эссе «Protopia»