Руководитель ИИ в Lowe's дал шесть рекомендаций по управлению ИИ

В авторской колонке на сайте IEEE Spectrum Sravan Vadigepalli, старший член IEEE и технический руководитель в Lowe's Cos., где отвечает за корпоративную ИИ-стратегию, ИИ-продукты и партнёрства, рассуждает о смене роли тех, кто отвечает за результаты работы ИИ-систем. По его словам, работа больше не сводится к созданию таких систем: она включает определение того, какие решения они принимают самостоятельно, когда обязаны передать вопрос человеку и какие действия остаются под запретом. Этот переход от построения ИИ-систем к управлению ими, пишет автор, затронет всех, кто отвечает за результат: инженеров, продакт-менеджеров, аналитиков и руководителей бизнеса, которые подписывают работу, подготовленную машиной, а не обычных пользователей чат-бота. Тему он развивает в книге The Enterprise Brain: Rewiring Your Business for the AI-Native Era, у которой автор среди соавторов, а саму перемену называет «сдвигом к управляющему» ("governor shift"): от выполнения задач самому к постановке цели, принципов и границ в системах, которые выполняют их за человека.

В качестве фона автор приводит отчёт Project NANDA (MIT Media Lab) за 2025 год: при оценочных $30, 40 млрд корпоративных инвестиций в генеративный ИИ подавляющее большинство организаций из выборки отчёта ещё не показали измеримого влияния на прибыли и убытки, а существенную пользу, по оценке отчёта, приносили лишь около 5% интегрированных пилотных проектов. Исследователи назвали это «разрывом генеративного ИИ» (GenAI Divide). По мнению автора, у отстающих компаний обычно нет проблем с технологиями, модели те же, что у 5% победителей, не хватает людей, которые могут направлять системы и отвечать за результат.

Далее идут шесть рекомендаций.

Заметить, что вы стали «человеком-прослойкой» ("human middleware"). Как промежуточное ПО передаёт данные между двумя системами, так многие сегодня выгружают данные из одного инструмента, переформатируют и отправляют другой команде. Автор называет это «ловушкой администратора» ("administrator trap"): её создаёт архитектура, а не люди. Передачу данных ИИ-агенты уже делают хорошо, но не могут судить, какие цифры заслуживают внимания, какие риски реальны и на какие компромиссы стоит идти.
Заменить правила принципами. Правила, вроде подписи руководства на крупном возврате или двух проверяющих для кода, работают на человеческой скорости, но ломаются, когда система принимает тысячи решений в час и сталкивается с ситуациями, которых правила не предусматривали (например, жалоба, подпадающая под три разные политики). Правило велит сделать именно это, принцип, добиться результата, не переступая определённых границ. Принципы нужно записать в порядке приоритета, чтобы система сама разрешала конфликты. Примеры автора: не вредить клиенту; говорить правду, даже если компания теряет продажу; защищать экономику, а затем действовать быстро. Собрание таких ответов он называет «библиотекой принципов» ("library of principles"), а за ним стоит вопрос о правах на решения, о том, кто или что вправе принять то или иное решение.
Записать культуру в код. Ценности на плакатах ИИ-агент прочитать не может, поэтому управление нужно писать как код, в виде машиночитаемых инструкций в три слоя: «конституция» (правила, которые агент не нарушает никогда, в том числе не утверждает факт, который не может подтвердить), «доктрина» (как бизнес конкурирует и какие компромиссы допустимы, например долгосрочные отношения важнее краткосрочной продажи) и «плейбук» (тактика для одной задачи).
Поставить «термостат доверия», а не «выключатель доверия». Если доверие, выключатель, остаются два плохих варианта: система без надзора или человек, проверяющий каждую операцию, что, по словам автора, обойдётся дороже, чем сэкономит автоматизация. Термостат работает иначе: у каждого решения агента есть оценка уверенности относительно заданных принципов; выше согласованного порога агент действует сам, ниже, решает человек, а его ответ возвращается в цикл обучения, чтобы похожий случай в следующий раз прошёл порог без участия человека. Все решения остаются прозрачными, проверяемыми и объяснимыми, это автор называет «стеклянным ящиком» ("glass box").
Сначала наладить контекст, потом управлять. Система, не видящая всей картины, неуправляема: у большинства корпоративных ИИ-систем информация разбросана по приложениям с несовместимыми форматами. Автор описывает полный цикл как CCRAG: Connections (подключения), Context (контекст), Reasoning (рассуждение), Actions (действия), Governance (управление). Подключения подают сырые данные, транзакции, записи обслуживания; контекст собирает их в граф контекста, единую связную картину бизнеса, дающую агентам нечто вроде памяти; рассуждение принимает решения; действия возвращают их в бизнес-системы; управление сверяет всё с намерениями компании. Большинство организаций, пишет автор, зацикливаются на рассуждении и недоинвестируют в контекст и управление, а именно там нужны люди.
Научиться руководить по исключениям. Мы привыкли проверять каждый отчёт и каждую цифру, но в управляемой системе машина сама сообщает, какие случаи не смогла решить уверенно. Рутинные процессы остаются нетронутыми, а внимание уходит на небольшую долю неоднозначных, незнакомых или высокорисковых случаев. Сначала это может казаться потерей контроля, но на деле наоборот: так возможно «самомасштабируемое предприятие», выпуск которого растёт без пропорционального роста штата. Людей, по словам автора, не убрали из цикла, а подняли над ним.

В заключение автор переходит к «вопросу идентичности»: сопротивление этому сдвигу редко связано с техникой, чаще это страх «если ИИ делает, что делать мне?». Его ответ: работой всегда было суждение, а «делание» было лишь способом его выразить. ИИ сделал суждение самым дефицитным ресурсом в организации, потому что хорошо записанное суждение одного человека может направлять тысячи решений в день. Рядом с суждением автор ставит «вкус», способность понять, стоит ли вообще задавать вопрос и какой из множества допустимых вариантов предложить клиенту. По его мнению, переход к ИИ вознаграждает качества, которые уже есть у многих членов IEEE: системное мышление, точность в требованиях и честность насчёт режимов отказа.

Ключевые факты

Автор колонки в IEEE Spectrum, Sravan Vadigepalli, старший член IEEE, технический руководитель Lowe's Cos. (корпоративная ИИ-стратегия, ИИ-продукты, партнёрства) и соавтор книги The Enterprise Brain.
Тезис: тот, кто отвечает за результат ИИ, переходит от создания систем к управлению ими, автор называет это «сдвигом к управляющему» ("governor shift").
Фон по отчёту Project NANDA (MIT Media Lab, 2025): при оценочных $30, 40 млрд инвестиций в корпоративный генеративный ИИ существенную пользу, по оценке отчёта, приносили лишь около 5% интегрированных пилотов.
Шесть рекомендаций: осознать роль «человека-прослойки», заменить правила принципами, записать управление как код в три слоя (конституция, доктрина, плейбук), использовать «термостат доверия» вместо «выключателя», наладить контекст до управления (цикл CCRAG), руководить по исключениям.
Вывод автора: суждение и «вкус» становятся главным дефицитом, а управление ИИ, самой работой, а не шагом в сторону от инженерии.

Почему это важно

Колонка описывает практический сдвиг ролей: по мнению автора, ИИ-агенты берут на себя передачу данных и выполнение задач, а человеку остаются постановка целей, принципы, границы и ответственность за результат. Автор связывает это с тем, что, по отчёту Project NANDA за 2025 год, большинство организаций из его выборки при крупных инвестициях ещё не показали измеримого эффекта на прибыль и убытки. Причину он видит не в технологиях, а в нехватке людей, способных направлять системы и отвечать за итог.

Кому это важно

Прежде всего тем, кто подписывает работу, подготовленную машиной: инженерам, продакт-менеджерам, аналитикам и руководителям бизнеса. Автор подчёркивает, что код писать для этого не обязательно: например, руководитель может решать, какие исключения по ценам агент вправе одобрять сам, а какие обязан передать человеку. Обычных пользователей чат-ботов тема, по словам автора, не касается.

Как это применить

Автор предлагает шесть шагов. Посмотреть, сколько рабочей недели уходит на перекладывание данных между инструментами. Записать принципы в порядке приоритета. Оформить ценности и политики как машиночитаемые инструкции в три слоя: конституция, доктрина, плейбук. Задать порог уверенности, выше которого агент действует сам, а ниже решает человек, и возвращать ответы людей в цикл обучения. Свести разрозненные данные в единый граф контекста до того, как внедрять управление. И перестать проверять каждую цифру, сосредоточившись на неоднозначных, незнакомых и высокорисковых случаях. Конкретные значения порога уверенности в тексте не приводятся.

Можно ли доверять

Это авторская колонка с изложением личной позиции и идей из собственной книги автора, а не исследование. Цифры по инвестициям и доле успешных пилотов взяты из отчёта Project NANDA; о методике отчёта, размере выборки и точном названии в колонке не сказано. Данных или примеров из Lowe's о том, что рекомендации работают, нет, измеримых результатов собственных внедрений автор не приводит. Автор представлен как руководитель в Lowe's и соавтор книги, о которой пишет, поэтому у материала есть и просветительская, и рекламная составляющая.

Риски и подводные камни

Рекомендации не подкреплены измеренными результатами и остаются мнением одного практика. Порог уверенности для «термостата доверия» не определён, а сам подход предполагает, что оценка уверенности агента надёжна. Автор сам признаёт, что системы могут ошибаться, например сообщить клиенту неверную информацию или назвать цену, которую компания не подтвердит. Срок, к которому сдвиг затронет конкретные роли, в тексте не указан, как и данные по самому разрыву между пилотами и масштабными результатами, помимо цитируемых оценок.

«Но «делание» никогда не было настоящей работой. Работой было суждение. «Делание» было лишь способом его выразить.»

— Sravan Vadigepalli, IEEE Spectrum