Directly Responsible Individuals: почему ИИ-агент не может отвечать за проект
Саймон Уиллисон в короткой заметке в своём блоге разбирает термин «Directly Responsible Individuals» (DRI, «непосредственно ответственные лица»). Он искал внятное определение и нашёл лучшее, в справочнике компании GitLab. По его данным, термин зародился в Apple, где так называют человека, который «несёт полную ответственность за успех или провал конкретного проекта, инициативы или направления работы».
Уиллисон пишет, что в последнее время размышляет об этом термине в контексте ИИ-агентов на основе больших языковых моделей (LLM) и того, как они встраиваются в работу организаций. Его позиция: агент никогда не должен считаться DRI. Ответственность за проект, качество, которое он считает уникально человеческим, потому что люди способны отвечать за свои действия, а машины, нет.
В подтверждение он приводит легендарный учебный слайд IBM 1979 года: «Компьютер никогда нельзя привлечь к ответственности, поэтому компьютер никогда не должен принимать управленческое решение».
Ключевые факты
- Термин «Directly Responsible Individuals» (DRI) зародился в Apple и описывает человека, полностью отвечающего за успех или провал конкретного проекта
- Уиллисон нашёл наиболее внятное определение термина в справочнике (handbook) компании GitLab
- Его тезис: ИИ-агент на основе LLM никогда не должен занимать роль DRI
- Аргумент, ответственность за действия способны нести только люди, машины по своей природе не могут
- Приведён учебный слайд IBM 1979 года: компьютер нельзя привлечь к ответственности, поэтому он не должен принимать управленческие решения
Почему это важно
По мере того как ИИ-агенты берут на себя всё больше рабочих задач, в организациях размывается граница между тем, кто выполняет работу, и тем, кто за неё отвечает. Уиллисон формулирует простое, но принципиальное правило: исполнение можно делегировать агенту, ответственность, нет. Это не техническое наблюдение, а организационный принцип, который многим командам, внедряющим ИИ-агентов, ещё предстоит явно проговорить.
Кому это важно
Менеджерам и техническим лидам, которые внедряют ИИ-агентов в рабочие процессы и распределяют роли в командах; компаниям, уже использующим модель DRI (как Apple и GitLab), которым предстоит решить, как эта практика сочетается с автономными агентами; самим разработчикам агентных систем, продумывающим границы автономии.
Как это применить
Практический вывод из заметки, даже если задачу физически выполняет ИИ-агент, за неё должен отвечать конкретный названный человек, а не «система» или «агент» в целом. Это значит: сохранять явного человека-DRI на каждую инициативу, где участвует агент, и не позволять автономности агента размывать персональную ответственность внутри команды.
Можно ли доверять
Автор, Саймон Уиллисон, известный разработчик (создатель Django, автор инструмента sqlite-utils) и один из наиболее авторитетных независимых наблюдателей за индустрией ИИ-агентов. Материал, короткая личная колонка-размышление в его блоге, а не исследование с данными: это авторское мнение, подкреплённое ссылкой на реальный справочник GitLab и историческую цитату IBM, но без собственной эмпирики.
Риски и подводные камни
Заметка, это тезис одного человека, а не корпоративная политика или отраслевой стандарт: другие компании могут на практике по-разному трактовать роль агента в цепочке ответственности. Также стоит учитывать, что реальная граница между «исполнением» и «ответственностью» размывается тем сильнее, чем больше автономии получает агент на практике, одного декларативного принципа для этого может быть недостаточно.
«Компьютер никогда нельзя привлечь к ответственности, поэтому компьютер никогда не должен принимать управленческое решение.»
— учебный слайд IBM, 1979 год (приведён в заметке Саймона Уиллисона)