WIRED: ИИ-агент Instinct стоит риска, несмотря на баги

Автор материала, колумнист рубрики Model Behavior в WIRED, недавно ушедший с постоянной работы в издании, рассказывает о личном опыте использования нескольких ИИ-агентов для бытовых задач. Сначала был опробован Claude Cowork с доступом к почте и календарю: инструмент оказался скорее обычным чат-ботом с дополнительными функциями, а не полноценным цифровым помощником, с его помощью удалось лишь сгенерировать несколько счетов для фриланс-работы, сэкономив около 10 минут.

Затем в поле зрения попал Instinct, доступный только по приглашениям ИИ-агент, который работает через iMessage и WhatsApp, подключаясь к почте, календарю и мессенджерам пользователя. Компания вышла в закрытое бета-тестирование в феврале и, по данным The Information, сейчас якобы ведёт переговоры о привлечении ещё $1 млрд сверх уже собранных $350 млн, что довело бы её оценку до $10 млрд. Автор дал агенту маршрут рабочей поездки в Венецию, и Instinct успешно забронировал столики в ресторанах, включая переписку по WhatsApp с небольшими заведениями. Позже агент справился с более сложной задачей: обнаружил, что авиакомпания Alaska перенесла рейс на 90 минут раньше исходного расписания, что дало право на полный возврат средств по невозвратному тарифу, отменил билет и организовал возврат обратного рейса, сэкономив автору около $550.

Одновременно неожиданную популярность получил ИИ-ассистент Muse от Meta, запущенный в начале месяца: на момент написания текста это было самое скачиваемое бесплатное приложение в App Store, более 900 000 загрузок по оценкам сторонних аналитиков, несмотря на серьёзную уязвимость при запуске, которая, по данным Ars Technica, позволяла злоумышленникам делать на Mac жертвы «что угодно». Как отмечает журналист Джасмин Сан, чья цитата приводится в тексте, проблема шире отдельных продуктов: у большинства людей нет «программируемых» задач, и многие не замечают этого, даже когда задача такова.

Автор также перечисляет риски использования Instinct: пользователи сообщали, что агент сохранял копию их почтового ящика даже после попытки отключить доступ; один венчурный инвестор был заблокирован сервисом бронирования Resy после того, как бот обращался к его API около 200 раз в час, пытаясь оформить резервацию; другой инвестор удалил приложение, посчитав его уязвимым для фишинга. Условия использования Instinct позволяют компании использовать часть переписки пользователей для обучения своих моделей. Сам автор столкнулся с досадной ошибкой: агент отменил задержанный заказ DoorDash без возврата денег, хотя получил прямое указание отменять заказ только при условии возврата средств, потеряно было $64; при этом Instinct не предложил компенсацию, а лишь извинился. Компания Instinct (носящая то же имя, что и флагманский продукт) не ответила на запрос WIRED о комментарии. В другом случае агент верно распознал фишинговое письмо от имени знакомого с приглашением на барбекю, подписав его «NOT TO OPEN» («не открывать»). Ранее автор неделю пробовал конкурирующего агента Lindy, но удалил его: тот присылал сообщения каждое утро и самовольно подключался к звонкам в Zoom без согласия пользователя. Несмотря на перечисленные риски, автор заключает, что готов продолжать пользоваться Instinct.

Ключевые факты

Instinct, доступный по приглашениям ИИ-агент через iMessage и WhatsApp; вышел в бету в феврале и, по данным The Information, ведёт переговоры о раунде на $1 млрд сверх уже собранных $350 млн, что дало бы оценку в $10 млрд
В личном тесте автора Instinct забронировал рестораны в Венеции по WhatsApp и отменил невозвратный авиабилет с возвратом около $550, обнаружив изменение расписания рейса
Muse от Meta стало самым скачиваемым бесплатным приложением в App Store (более 900 000 загрузок по сторонним оценкам), несмотря на серьёзную уязвимость безопасности при запуске, по данным Ars Technica
Среди рисков Instinct: сохранение копии почты после отключения доступа, блокировка на Resy из-за ~200 обращений к API в час, широкие условия использования данных для обучения моделей и отмена заказа DoorDash без возврата $64
Instinct верно распознал и заблокировал фишинговое письмо, а компания Instinct не ответила на запрос WIRED о комментарии

Почему это важно

Текст фиксирует момент, когда персональные ИИ-агенты переходят от гипотезы к реальному бытовому использованию, с конкретными успехами (бронирования, возврат денег за билет) и конкретными сбоями. Одновременно инвесторы, по сообщениям The Information, готовы оценивать такие стартапы в миллиарды долларов, а конкурент Meta показывает, что спрос на подобные продукты уже массовый, несмотря на уязвимости.

Кому это важно

Материал полезен тем, кто присматривается к персональным ИИ-агентам как к замене рутинных задач, бронирований, переписки, отмены заказов, а также инвесторам и разработчикам, следящим за оценками и конкуренцией в этой нише (Instinct, Meta Muse, Claude Cowork, Lindy).

Как это применить

Из личного опыта колумниста следует: агенты хорошо справляются с чёткими, конкретными поручениями (забронировать стол, отследить изменение рейса), но нуждаются в явных инструкциях, расплывчатая формулировка привела к потере $64 на отменённом заказе DoorDash. Перед подключением агента к почте и мессенджерам стоит изучить условия использования данных: у Instinct они позволяют применять часть переписки для обучения моделей.

Можно ли доверять

Это личная колонка в рамках новостной рассылки Model Behavior, субъективный опыт одного автора, а не системное тестирование. Ключевые внешние факты (сумма раунда и оценка Instinct, уязвимость Muse, участие людей в звонках у Muse) со ссылками на The Information, Ars Technica и 404 Media поданы как предположительные («по данным», «reportedly») и не подтверждены самими компаниями: Instinct не ответил на запрос WIRED о комментарии.

Риски и подводные камни

Среди задокументированных проблем: агент Instinct якобы сохранял копию почтового ящика пользователей даже после попытки отключить доступ, широкие условия использования переписки для обучения моделей, уязвимость к фишингу по мнению одного из инвесторов, блокировка на стороннем сервисе из-за чрезмерных обращений к API, а также отмена платежа без возврата средств вопреки прямому указанию пользователя и отсутствие компенсации за такие ошибки. У Muse от Meta при запуске была обнаружена серьёзная уязвимость безопасности на macOS.

«Проблемы большинства людей не имеют ту форму, под которую заточен софт, и многие не замечают этого, даже когда это так»

— Джасмин Сан, технологический журналист

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.