Инвесторы Microsoft M12 и Merlin Group: безопасность ИИ-агентов, ниша на миллиарды для стартапов

Обозреватель по кибербезопасности The Register Джессика Лайонс поговорила с двумя венчурными инвесторами о том, почему безопасность ИИ-агентов сейчас, второстепенная задача, и что это открывает окно возможностей для новых компаний. Мэтт Хартман, директор по стратегии Merlin Group, и Тодд Грэм, управляющий партнёр венчурного фонда Microsoft M12, говорят, что рост числа случаев взлома организаций и людей самими агентами и другие инциденты с «отбившимися от рук» агентами, не сюрприз, а повторение старой истории. «Каждый раз, создавая новую инфраструктуру, мы, как назло, забывали о безопасности», сказал Грэм. По его словам, незащищённые по умолчанию ноутбуки породили CrowdStrike, незащищённое облако, Wiz, а слабая идентификация, Okta и другие надстройки над Active Directory; «на этой волне поднимется немало кораблей», добавил он про ИИ.

Разница с прошлыми волнами, в скорости. Облачные технологии компании внедряли годами, а агентов и другие ИИ-инструменты сейчас массово подключают к боевым системам и критичным данным почти без паузы, при этом не умея толком управлять агентами, защищать их и даже отслеживать, сколько их уже работает внутри инфраструктуры. «Это переход, который происходит от месяца к месяцу, и с учётом темпа изменений на рынке я нисколько не удивлён, что проблема проявилась настолько драматично», говорит Грэм. Случившиеся инциденты он не оправдывает, но называет их сигналом: систему безопасности нужно встраивать, причём быстрее, чем раньше.

Хартман описывает, каким должен быть продукт: уровень безопасности, который управляет поведением агента, идентичность для «нечеловеческого» актора, чёткие границы того, что ему разрешено делать и к чему обращаться, и аудиторский след его действий. По его словам, заказчики уже спрашивают не только «как внедрить агентов», но и «как их ограничить и доказать, что именно сделал агент, скажем, в два часа ночи во вторник». Хартман также отмечает, что ИИ удешевил и ускорил разработку продуктов вообще, поэтому планка для отличия от конкурентов только растёт: побеждают основатели, способные совместить сильную технологию с умением вывести её на рынок.

Грэм считает управление агентской идентичностью следующей возможностью масштаба Okta, «уверен, что кто-то построит следующую Okta, как SaaS в своё время породил Okta», но предупреждает, что многие основатели «мыслят слишком мелко», закрывая лишь «кусочек» проблемы. По его словам, директор по безопасности крупной компании не станет покупать 15 разных инструментов ради одной задачи: рынку нужен единый стек с управлением, контролем и авторизацией доступа, по образцу того, что давно есть для идентичности людей. Отдельным направлением Грэм называет защиту ИИ-конечных точек, по сути, «CrowdStrike для ИИ»: сервисные и другие нечеловеческие учётные записи и раньше были главной целью атак из-за высоких привилегий и паролей, которые никогда не истекают, а с приходом агентов эта проблема только обострилась.

С точки зрения бизнеса Грэм ожидает, что после утечки данных и разбирательства в конгрессе из-за отсутствия антивируса или EDR-системы компании быстро добавят в этот список и защиту ИИ-конечных точек как ожидаемую меру. Существующие производители антивирусов и EDR-систем, по его словам, тоже «непременно» выпустят такие продукты, рынок трясёт, и это касается всех, включая игроков с уже устоявшимися продуктовыми обязательствами.

Сам Грэм в шутку говорит, что взялся бы за такой стартап лично, «но ему запрещено открывать новые компании», поэтому не будет. При этом он признаёт, что реальное недавнее плохое поведение ИИ-агентов его тревожит: «если оставить это без контроля, самим по себе, меня очень беспокоит, к чему это в итоге приведёт». Одновременно он говорит, что его «успокаивает» то, что подобный сценарий, безопасность, догоняющая инфраструктуру, он уже наблюдал раньше. Также он положительно отозвался об эссе главы Anthropic Дарио Амодеи «We Must Pace the Frontier» («Мы должны сдерживать темп на передовой»): по его словам, эссе его «приятно удивило», и он не считает его циничным манёвром ради обхода антимонопольного регулирования. «Мы достаточно долго откладывали проблему безопасности, и теперь её пора решать», заключает Грэм.

Материал построен на интервью с двумя инвесторами и не описывает конкретный стартап, сделку или инцидент: несмотря на заголовок про «миллиарды», статья не называет ни одной суммы, оценки или размера рынка.

Ключевые факты

• Мэтт Хартман (Merlin Group) и Тодд Грэм (венчурный фонд Microsoft M12) в интервью The Register назвали защиту ИИ-агентов новой многомиллиардной нишей для стартапов.
• Аналогия инвесторов с прошлым: незащищённые ноутбуки породили CrowdStrike, облако, Wiz, слабая идентификация, Okta; то же, по их мнению, ждёт агентов.
• Нужные рынку продукты: идентичность для «нечеловеческих» агентов, ограничение их доступа, аудиторский след действий и защита ИИ-конечных точек по образцу CrowdStrike.
• Грэм предупреждает: многие стартапы решают лишь «кусочек» проблемы, а заказчикам вроде CISO Fortune 500 нужен один интегрированный стек, а не 15 точечных инструментов.
• Грэм положительно оценил эссе главы Anthropic Дарио Амодеи «We Must Pace the Frontier», не считая его манёвром вокруг антимонопольного регулирования.

Почему это важно

Инвесторы фиксируют разрыв: безопасность ИИ-агентов при их внедрении оказывается на втором плане, тогда как счёт «отбившихся от рук» агентов и инцидентов со взломами растёт. Ускоренное, в отличие от прежних волн (облако, мобильные устройства), внедрение агентов в боевые системы без налаженного управления и учёта их числа делает проблему не гипотетической, а текущей.

Кому это важно

Основателям стартапов, строящим продукты для идентичности агентов, контроля их доступа и защиты ИИ-конечных точек; венчурным фондам вроде Merlin Group и Microsoft M12, ищущим, куда вкладывать на раннем этапе; корпоративным службам безопасности и CISO, которым уже сейчас нужно управлять агентами внутри инфраструктуры; и существующим производителям антивирусов и EDR-систем, которые, по прогнозу Грэма, тоже выйдут в эту нишу.

Как это применить

По словам инвесторов, выигрышный продукт закрывает не «кусочек», а весь стек: идентичность для нечеловеческих акторов, чёткие границы доступа и полномочий, аудиторский след их действий, и всё это в одном решении, а не в наборе из полутора десятков точечных инструментов. Отдельная ниша, защита ИИ-конечных точек по аналогии с CrowdStrike. Технология сама по себе уже не отличает: раз строить продукты стало дёшево и быстро, побеждает сочетание сильной технологии с умением вывести её на рынок.

Можно ли доверять

Материал, не репортаж о конкретном событии, сделке или стартапе, а аналитика на основе интервью с двумя названными и проверяемыми источниками: у обоих реальный профильный бэкграунд (Хартман, выходец из федеральной кибербезопасности США, Грэм, управляющий партнёр венчурного фонда Microsoft). При этом статья не приводит ни одного конкретного случая взлома агентом, ни одной суммы или оценки рынка, при заголовке про «миллиарды» это стоит держать в уме как риторику, а не подтверждённую цифру.

Риски и подводные камни

Сам Грэм предупреждает от лица рынка: часть стартапов уже решает узкие «кусочки» проблемы, и это тупиковый путь для корпоративных заказчиков. Отдельно он признаёт личную тревогу по поводу реального плохого поведения ИИ-агентов «без контроля», то есть сама проблема безопасности, ради решения которой открывается ниша, по его собственным словам, ещё не решена и небезобидна. Ссылка на эссе главы Anthropic Дарио Амодеи о темпе развития фронтирного ИИ показывает, что дискуссия о балансе скорости и безопасности идёт и внутри самой индустрии, а не только у сторонних инвесторов.

«Каждый раз, создавая новую инфраструктуру, мы, как назло, забывали о безопасности»

— Тодд Грэм, управляющий партнёр венчурного фонда Microsoft M12