ИИ-агенты, не коллеги: почему фреймирование убивает внимательность людей

Исследование профессора Boston University Эммы Вайлс выявило опасный побочный эффект маркетинга ИИ-агентов как цифровых коллег: когда людей просили проверить работу, выданную якобы «ИИ-сотрудником» (с именем, должностью и ответственностью), они обнаруживали на 18% меньше ошибок, чем когда видели ту же работу от обычного чатбота. Более того, участники были на 44% более склонны эскалировать сомнительные результаты менеджеру вместо того, чтобы самостоятельно их исправить, что уничтожает смысл экономии времени. Около трети из 1261 опрошенного менеджера уже называют ИИ-агентов сотрудниками в своих компаниях; некоторые даже вносят их в организационные схемы. Проблема вышла за пределы офисной культуры: по мере внедрения ИИ-агентов в здравоохранение, военное дело, образование и госуправление растёт риск, что они станут удобным козлом отпущения для ошибок, которые на самом деле, результат плохих человеческих решений, стимулов и надзора. Экономист MIT Дарон Асемоглу (лауреат Nobel Prize 2024) предупреждает: ИИ-агенты маркетируют как инструменты замены людей, но это тупиковый путь; их нужно оптимизировать для усиления человеческих способностей. Исследование Stanford показало: когда рабочих спросили, какие задачи было бы действительно полезно автоматизировать, они часто отвергали именно то, что эксперты считали идеальным для ИИ (например, проверку кредитных рейтингов для продавцов).

Ключевые факты

Фреймирование ИИ-агента как «сотрудника» снижает внимательность людей к его ошибкам на 18%
Люди чаще передают ответственность менеджерам (44% вероятнее), вместо того чтобы самим исправлять ошибки агента
Треть менеджеров (23%) уже вносят ИИ-агентов в оргсхемы как сотрудников, создавая иллюзию подотчётности
В здравоохранении, военном деле и госуправлении агенты могут стать удобным козлом отпущения за ошибки, вызванные плохим надзором людей
Рабочие часто отвергают автоматизацию тех задач, которые эксперты считают идеальными для ИИ, нужно спрашивать конечных пользователей

Почему это важно

Маркетинг ИИ-агентов как цифровых коллег, не просто брендинг. Исследование Вайлс показало, что психологический фрейм «это сотрудник» инвертирует чувство ответственности: люди начинают видеть агента как равноправного участника, а себя, как менее ответственных за его выход. Это особенно критично, когда агенты встраиваются в системы, где ошибки имеют реальные последствия (диагностика, боевые решения, судебные действия).

Кому это важно

Менеджерам, которые сейчас внедряют ИИ-агентов в команды. Руководителям здравоохранения, военных и госведомств, где риск неправильной ответственности растёт. Рабочим, чья внимательность и контроль качества теперь конкурируют с психологией доверия. Профсоюзам и регуляторам, которым нужно понимать реальные механизмы отказа от ответственности, а не рекламные обещания.

Как это применить

Компаниям нужно переосмыслить фреймирование: вместо «это ваш цифровой коллега с именем и должностью» подать агента как инструмент, усиливающий конкретные способности (как ассистент-помощник, а не автономный исполнитель). При внедрении спросить самих рабочих, какие задачи они хотят автоматизировать, вместо того чтобы эксперты решали за них. Чётко определить точки ответственности: кто именно отвечает за проверку, корректировку и финальное решение.

Можно ли доверять

Исследование Вайлс проведено на большой выборке (1261 менеджер) с контролем фреймирования (один и тот же результат, разные названия источника). Результаты согласуются с другими работами о психологии доверия и атрибуции. MIT-экономист Дарон Асемоглу, авторитет в изучении влияния технологий на рынок труда. Однако исследование измеряет поведение в искусственной лабораторной обстановке; эффект в реальных рабочих условиях может быть другим.

Риски и подводные камни

Риск номер один, постепенная нормализация неправильной ответственности. Если компании продолжат маркетировать агентов как коллег и включать их в оргсхемы, произойдёт инверсия контроля: сложные системы формально будут иметь «цифрового ответственного», но реально ответственность размывается. В государстве и здравоохранении это может привести к тому, что неудачи будут приписаны агенту вместо того, чтобы проанализировать человеческие ошибки надзора. Второй риск, манипуляция: если люди узнают об этом эффекте, недобросовестные работодатели могут целенаправленно использовать агентов именно как ширму для размывания ответственности.

«ИИ-агенты прямо сейчас маркетируют как инструменты, способные заменить людей. И я думаю, это просто тупиковый путь. Их вместо этого нужно оптимизировать так, чтобы они усиливали человеческие способности, чего они, к сожалению, не делают в настоящий момент.»

— Дарон Асемоглу, экономист MIT, лауреат Нобелевской премии 2024