ИИ-автоматизация может стоить индустрии поколения инженеров-экспертов

Ричард Митчелл, инженер систем с примерно 38-летним стажем в safety-critical направлениях (верификация цифровых систем управления реактивными двигателями, оптимизация энергоблоков, цифровое управление атомными станциями, авиасимуляция), основатель и CEO компании AuraSpark Technologies, в колонке для IEEE Spectrum вспоминает проект более чем десятилетней давности: он руководил разработкой системы цифрового управления для одной из первых в США полностью автоматизированных атомных станций. Система была спроектирована управлять собой почти как современный авиалайнер, но команда сознательно оставила в последовательностях, которые автоматика могла выполнить сама, ручные шаги. Логика простая: оператор, который только наблюдает за автоматикой, постепенно теряет навык. Модель того, что на самом деле происходит на станции, размывается. А автоматика возвращает управление человеку именно в тот момент, когда сама не справляется, то есть в худший момент. Ручные шаги нужны были для того, чтобы держать человека в форме; неэффективность была намеренной. Ту станцию, впрочем, так и не построили, проект закрыли из-за политики и экономики вокруг атомной энергетики в США, никак не связанных с инженерией, но сама идея у автора осталась.

Дальше Митчелл переходит к данным о влиянии ИИ на занятость junior-специалистов. Рабочий документ Гарвардского университета, охвативший около 65 миллионов работников более чем в 280 000 американских компаний, показал: после внедрения генеративного ИИ занятость junior-сотрудников снизилась примерно на 9% в течение шести кварталов относительно компаний, которые ИИ не внедряли, при этом занятость senior-сотрудников продолжала расти. Анализ Стэнфорда по платёжным данным ADP даёт ту же картину: с конца 2022 года самые молодые работники в профессиях, наиболее подверженных влиянию ИИ, стали терять позиции, тогда как их более опытные коллеги свои позиции удерживали. По данным стэнфордских исследователей, потери концентрируются там, где ИИ именно автоматизирует работу; там, где он лишь дополняет её, занятость junior-специалистов держится на месте или растёт.

Автор честно указывает, что причинно-следственная связь оспаривается. Исследователи Федерального резервного банка Нью-Йорка связывают рост безработицы среди молодых выпускников не столько с ИИ, сколько с удалённой работой: компании неохотно нанимают неопытных людей, которых не могут обучать и наставлять дистанционно. Но, замечает Митчелл, оба объяснения описывают один и тот же сломанный механизм, канал наставничества, по которому экспертиза передаётся от старших к младшим, перестаёт работать. В результате «начальный уровень» на практике стало означать «требуется три года опыта».

Центральный тезис колонки: нельзя стать senior-инженером, не побывав junior-инженером. Экспертиза не скачивается, она зарабатывается через провалившиеся сборки, тупиковые сессии отладки и моменты «а почему это вообще сработало», которых способный ИИ теперь с готовностью избавляет новичка. Если избавить от них достаточно, получится поколение, которое умеет на бумаге контролировать модель, но так и не выработало интуицию, чтобы распознать момент, когда модель уверенно и катастрофически ошибается.

Далее Митчелл проводит параллель с авиацией, сферой, с которой начиналась его карьера: он занимался верификацией и валидацией ПО цифрового контроллера реактивного двигателя истребителя. Уже тогда, в конце 1980-х, было видно центральное противоречие, известное как «парадокс автоматизации»: машина превосходит человека в рутинных случаях, но именно человек, последний рубеж в случаях, которые машина не предусмотрела, а чем совершеннее автоматика, тем меньше практики остаётся у оператора и тем сложнее ситуации, которые достаются ему одному. Канонический пример, крушение рейса Air France 447 в Атлантике в 2009 году: обледеневшие датчики скорости передали автопилоту неверные данные, тот отключился и вернул управление экипажу, как и положен по конструкции. Дальше произошёл не отказ техники, а отказ компетенции: пилоты, привыкшие тысячи часов наблюдать за работой автоматики, не смогли распознать высотный аэродинамический сваливающий режим и вручную вывести самолёт из него, восстановимая ситуация превратилась в невосстановимую.

Ответ авиаотрасли Митчелл считает образцом того же хода, что он применил в атомном проекте: автопилот не убрали, а сознательно вернули в практику ручное пилотирование. В 2017 году Федеральное управление гражданской авиации США (FAA) выпустило предупреждение по безопасности эксплуатации SAFO 17007 «Навыки ручного управления полётом», официально признав деградацию навыков самостоятельной угрозой безопасности. Часть авиакомпаний изменила процедуры, поощряя ручное пилотирование на начальном наборе высоты и начальном снижении в безопасных условиях, сознательно жертвуя долей топливной эффективности ради того, чтобы экипаж не терял лётные навыки.

Из этих двух примеров Митчелл выводит паттерн для работы, где всё больше задач берёт на себя ИИ, «ручной шлюз» (manual gate): намеренно выбранная точка в рабочем процессе, где человек берёт управление на себя не потому, что так быстрее, а специально для того, чтобы поддерживать навык, который иначе деградирует. В качестве примера он описывает софтверную команду, которая ставит такой шлюз вокруг отладки. Когда в критическом модуле находят дефект, назначенный инженер, часто сознательно junior, должен сначала воспроизвести сбой, найти его первопричину и написать автоматический тест, фиксирующий баг, всё с отключённым ИИ-ассистентом. Только после того, как инженер зафиксировал собственный диагноз, ИИ включают снова: он предлагает исправление, варианты и проверяет кодовую базу на похожие баги. Диагноз инженера сравнивают с выводом модели; если они расходятся, значит, паттерн сработал, расхождение всплыло до критического дня, а не во время него.

Автор подчёркивает: ничего из этого не бесплатно. Намеренный ручной шлюз по определению менее эффективен в моменте, чем полная автоматизация, держать junior-сотрудников на формирующей работе и прогонять ручные последовательности стоит денег сейчас ради выгоды потом. Это трудно продать на рынке, где руководителей судят по квартальным результатам: топ-менеджер, который держит «избыточных» людей вместо того, чтобы заменить их ИИ, услышит об этом от совета директоров задолго до того, как окупится долгосрочная выгода. По мнению Митчелла, такая математика работает только для тех, кто защищён от этого давления: фаундер с контролем над компанией, частная компания, институция с по-настоящему долгим горизонтом планирования, либо регулятор, требующий регулярно подтверждать навыки, как это устроено у пилотов. Значит, сохранить собственную экспертизу структурно способны как раз те организации, которые могут потратить маржу сейчас ради возможностей в будущем; всем остальным нужен внешний толчок, например, регулирование.

Вывод колонки: намеренная неэффективность, не растрата, а страховка, и в safety-critical инженерии это давно понимают и сознательно за неё платят. По мере того как ИИ забирает работу, на которой раньше ковалась экспертиза, разумный ход, не сопротивляться автоматизации, а по замыслу держать руки на органах управления, чтобы в тот день, когда автоматика откажет (а рано или поздно это случается всегда), в кресле оставался человек, умеющий вести машину сам.

Ключевые факты

• Рабочий документ Гарварда (около 65 млн работников, более 280 000 компаний США) фиксирует: после внедрения генеративного ИИ занятость junior-сотрудников упала примерно на 9% за шесть кварталов относительно компаний без ИИ, при этом занятость senior-сотрудников росла.
• Анализ Стэнфорда по данным ADP: с конца 2022 года самые молодые работники в наиболее подверженных ИИ профессиях теряют позиции; потери концентрируются там, где ИИ автоматизирует работу, а не там, где лишь дополняет её.
• Исследователи ФРБ Нью-Йорка предлагают альтернативное объяснение: рост безработицы среди молодых выпускников связан не столько с ИИ, сколько с удалённой работой, компании не готовы удалённо обучать и наставлять неопытных сотрудников.
• Исторический прецедент из авиации: крушение рейса Air France 447 (2009) из-за утраты пилотами навыка ручного пилотирования привело к тому, что в 2017 году FAA выпустило SAFO 17007 и признало деградацию навыков угрозой безопасности; часть авиакомпаний стала намеренно жертвовать топливной эффективностью ради ручной практики экипажей.
• Автор, инженер Ричард Митчелл (38 лет в safety-critical инженерии, основатель AuraSpark Technologies), предлагает паттерн «ручной шлюз»: например, отладку критических багов инженер (часто junior) сначала проводит с выключенным ИИ, и только после собственного диагноза включает модель для сравнения выводов.

Почему это важно

Колонка формулирует то, что автор называет парадоксом автоматизации применительно к сегодняшнему ИИ: чем больше рутинной работы ИИ забирает у junior-специалистов, тем меньше у них шансов набрать тот практический опыт, из которого раньше вырастала senior-экспертиза. Гарвардские и стэнфордские данные показывают, что это уже происходит, занятость и продвижение младших сотрудников проседают именно там, где ИИ автоматизирует, а не дополняет их работу. Если тренд продолжится, через несколько лет организациям может оказаться некому доверить контроль в тот момент, когда автоматика сама не справится.

Кому это важно

В первую очередь, руководителям инженерных и разработческих команд, CTO и техническим директорам, которые сейчас решают, сколько рутинной работы отдать ИИ-инструментам, а также HR и тем, кто выстраивает карьерные лестницы junior-сотрудников. Актуально для safety-critical отраслей (авиация, энергетика, медицина, промышленная автоматизация), где цена потери человеческой экспертизы особенно высока, и для регуляторов, которые могут потребовать подтверждения навыков по аналогии с пилотами.

Как это применить

Автор предлагает конкретный, воспроизводимый паттерн, «ручной шлюз»: осознанно выбранный этап рабочего процесса, где сотрудник (по замыслу, часто junior) выполняет задачу без помощи ИИ, чтобы навык не деградировал. Пример из софтверной разработки: при дефекте в критическом модуле назначенный инженер сначала воспроизводит сбой, находит первопричину и пишет автоматический тест, фиксирующий баг, всё с отключённым ИИ-ассистентом. Только после того как инженер зафиксировал собственный диагноз, ИИ включают снова, он предлагает исправление и альтернативы, а диагноз инженера сравнивают с выводом модели. Идею можно переносить в другие safety-critical или инженерные процессы: выбрать один-два навыка, которые организация не может позволить себе потерять, и намеренно встроить в процесс точку, где ИИ временно выключен.

Можно ли доверять

Это авторская колонка практикующего инженера (38 лет в safety-critical системах, основатель и CEO AuraSpark Technologies) в IEEE Spectrum, авторитетном отраслевом издании, но текст остаётся мнением, а не независимым исследованием. Ключевые количественные утверждения, не изобретение автора: он ссылается на конкретный рабочий документ Гарвардского университета и на анализ Стэнфорда по данным ADP, а также честно приводит контраргумент исследователей ФРБ Нью-Йорка, которые видят причину не в ИИ, а в удалённой работе. Причинно-следственная связь между внедрением ИИ и падением занятости junior-сотрудников, по признанию самого автора, остаётся предметом спора. Исторический пример с рейсом Air France 447 и предупреждением FAA SAFO 17007 (2017), реальные, задокументированные события. При этом источник не приводит данных о том, применял ли уже кто-то описанный «ручной шлюз» на практике и дал ли он измеримый эффект: сам автор подаёт его как гипотетический пример («представьте, как это могло бы работать»), а не как готовый кейс.

Риски и подводные камни

Главный риск паттерна, цена: намеренный ручной шлюз по определению медленнее и дороже полной автоматизации в моменте, а руководителей чаще всего оценивают по квартальным результатам, что делает решение трудно защитимым перед советом директоров. По мнению автора, устойчиво позволить себе такую стратегию могут только организации, структурно защищённые от давления краткосрочных показателей, компании с фаундерским контролем, частные компании, институции с долгим горизонтом планирования или отрасли под жёстким регулированием; всем остальным для этого нужен внешний толчок вроде обязательного регулирования. Есть и риск неверного применения самой идеи: без чёткого выбора именно тех навыков, которые организация не может позволить себе потерять, «ручные шлюзы» рискуют превратиться в формальность без реальной проверки компетенций, источник не приводит данных об эффективности даже авиационного прецедента (нет статистики о том, снизило ли предписание FAA частоту инцидентов).

«Ручное пилотирование, это основа, на которой строятся все остальные технические навыки полёта.»

— Предупреждение по безопасности эксплуатации FAA SAFO 17007 «Навыки ручного управления полётом», 2017