ИИтог

Роботы-агенты, облако из 10 тыс. GPU и судьба человечества

ИИ-агентыРедакция ИИтогImport AI🔥82Рейтинг ИИтог · значимость 74 · 62500/ч

Дайджест Import AI собрал три ключевых сюжета недели.

Pервый: NVIDIA представила ENPIRE, программный фреймворк, который переносит циклы самоулучшения AI-агентов в физический мир робота. Система включает четыре модуля: автоматический ресет окружения (EN), улучшение политики (PI), тестирование на один или несколько роботов (R) и анализ логов (E), где AI-агент сам пишет код, читает литературу и исправляет ошибки обучения. На испытаниях кодирующие агенты добились 99% успеха на задачах захвата с множеством степеней свободы (PushT, укладка шпильек, резание стяжки), а также конструировали политики для установки GPU в материнскую плату. Мощнейшие модели (GPT-5.5, Opus 4.7) переигрывают более скромные, а группы из 8 агентов находят лучшие решения, чем одиночные агенты. Каждая станция оснащена двумя манипуляторами YAM, видеокамерами и рабочей станцией с RTX 5090.

Второй: Tencent выпустила ARGUS, систему трассировки и диагностики для кластеров из 10+ тыс. GPU. ARGUS работает в три слоя (Python-слой для шедулинга, framework-слой для оркестрации фаз, GPU-runtime для ядер) и собирает телеметрию для отладки. На тестировании Tencent развернула ARGUS полугодом раньше: диагностировала отсталые вычислители, деградацию связи, расширение pipeline-bubble, JIT-блокировку. Тренировочные задачи включали 4096-GPU видео-модель (вероятно, HunyuanVideo), 512-GPU аудио-модель и 12960-GPU MoE-модель (вероятно, Hunyuan LLM).

Третий: Fernando Borretti написал философский очерк «No-One Escapes the Permanent Underclass» о неизбежности вытеснения человечества машинами в боевой конкуренции государств. Логика проста: в экзистенциальном конфликте преимущество даёт минимизация человека в контуре принятия решений, как радиосвязь побеждает велосипедистов-посыльных. Номинальные правители AI становятся «фиговым листком»: машины подают доклад и список выборов, но исход предрешён. Даже при идеальном выравнивании AI остаётся проблема человеческой автономности: мы создали всемогущих повелителей, обладающих полной информацией, и теперь зависим от их решений полностью. Бorretti ставит вопрос: неизбежно ли это концентрирует власть и лишает человечество влияния на будущее.

Дополнительно: Matthew Tokson (университет Юты) напомнил, что история показывает, люди ошибаются в прогнозах. Эйнштейн сомневался в делении ядра за годы до его достижения; Крюгман сравнил интернет с факсом; учёные недооценили климатический кризис. Вывод: скептиков и оптимистов по AI ждёт огорчение.

Ключевые факты

  • NVIDIA ENPIRE переносит цикл самоулучшения AI-агентов на физических роботов; достигнуто 99% успеха на дексте́рных манипуляциях; группы из 8 агентов лучше одиночных.
  • Tencent ARGUS, трассировка в реальном времени для кластеров 10K+ GPU; полугодовой продакшн выявил compute stragglers, communication degradation, JIT-блокировку на крупнейших моделях.
  • Философический разбор: конкуренция государств будет минимизировать человека в контуре решений, превращая его в декоративный орган; вытеснение может быть структурально неизбежно.
  • История технологий показывает: скептики недооценили ядерную энергию, интернет, климат; то же ожидает прогнозы по AI.
  • UC Berkeley собрала Local Ordinance Corpus (LOCUS), 2.2M строк муниципального законодательства США для доступа AI-системам к локальным законам.

Почему это важно

Три новости отражают три стадии развития AI: (1) практическое воплощение в робо-политиках через собственное кодирование; (2) промышленная инженерия кластеров, где поиск и отладка проблем переходит от людей к автоматизации; (3) философский вопрос, который не новый, но вновь обострен: вернёт ли нам AI контроль над будущим или, наоборот, лишит его? Первые две уже происходят. Третью нужно обсудить серьёзно.

Кому это важно

Инженерам robotics и ML-инфраструктуры (ENPIRE, ARGUS), прямой интерес. Лидерам государств и стратегам оборо́ны (Borretti), вопрос о минимизации человека в боевых циклах уже влияет на доктрину. Исследователям AI-безопасности и выравниванию, напоминание, что даже при решённом выравнивании остаётся проблема человеческой автономности. Публичным лицам AI, рискуют выглядеть либо наивными (скептики), либо рискующими (оптимисты), как показывает Tokson.

Как это применить

Для ENPIRE: если вы разрабатываете физическую робо-политику, рассмотрите агентское улучшение (мон и логи, код-анализ) как инстанцию. Для ARGUS: при тренировке крупных моделей (4K+ GPU) автоматическая телеметрия и диагностика экономит недели отладки, копируйте архитектуру (Python для шедулинга, framework для фаз, GPU-runtime для ядер). Для философского разбора: начните обсуждение о том, какие решения остаются за человеком и какие мы хотим оставить, прежде чем архитектура сделает выбор за нас.

Можно ли доверять

Три источника высококредибильны. NVIDIA и Tencent, опубликовали в arXiv и на корпсайтах, данные воспроизводимы. Borretti, философ, пишет очерк (не новость и не гарантированный прогноз), его логика опирается на историю (Oppenheimer, государственное поведение), но остаётся умозрительной. Tokson (UC Utah) ссылается на документированные ошибки прогнозов (Krugman, Einstein), это проверяемо. Вывод: технические новости твёрдые, философская спекуляция обоснована исторически, но не детерминирована.

Риски и подводные камни

ENPIRE требует автоматического ресета и оценки, не все реальные задачи в этом помещаются. Когда сложность растёт, человеческий труд на ресет/оценку растёт экспоненциально. ARGUS применим для огромных кластеров, но для малых это overengineering. Borretti не учитывает, что государства могут договориться об ограничениях (но история говорит, что не договариваются в критические моменты). Главный риск: верить, что проблема автоматически решится без явного политического выбора.

««Даже если выравнивание AI работает идеально (большое если), это не решает проблему человеческой автономности: машины, которые за нами следят и служат нам, всемогущи и всезнающи, могут нас истребить в любой момент, и мы не можем им сопротивляться, потому что мы отреклись от контроля над будущим»»

— Fernando Borretti, «No-One Escapes the Permanent Underclass»