OpenAI выделила $1 млрд на Daybreak для защиты инфраструктуры

OpenAI объявила о запуске инициативы Daybreak for Frontline Defenders, программы, в рамках которой компания выделяет $1 млрд на льготный доступ к своим моделям для кибербезопасности Daybreak, обучение, техническую поддержку и партнёрства. Цель, помочь защитникам переднего края с ограниченными бюджетами использовать современный ИИ для защиты критически важных для общества систем: водоснабжения и энергосетей, местных органов власти, банков и других организаций, отвечающих за инфраструктуру, от которой зависят люди.

Инициатива состоит из трёх частей. Во-первых, глобальное обязательство на $1 млрд, расширить льготный доступ к моделям и продуктам Daybreak, обучению, технической поддержке и партнёрствам в США и других странах; в США эту сумму рассчитывают израсходовать в течение ближайших шести месяцев. Во-вторых, «Daybreak for America», объединение всей работы OpenAI по защите систем, которыми американцы пользуются каждый день (от водопровода и электросетей до местных органов власти и банков), включая новый пилотный проект с Multi-State Information Sharing and Analysis Center (MS-ISAC), межштатным центром обмена информацией по кибербезопасности. В-третьих, более 35 корпоративных продуктов и партнёрских сервисов, которые партнёры компании выводят через Daybreak Defense Network, партнёрскую сеть, встраивающую кибермодели Daybreak в инструменты, которыми защитники инфраструктуры уже пользуются.

В первую очередь доступ получат операторы систем водоснабжения и водоотведения, электросетей, региональные и местные органы власти, локальные и региональные банки, некоммерческие организации и мейнтейнеры открытого ПО, команды, которые защищают сложные и часто устаревшие системы от быстро развивающихся угроз, не имея бюджетов, инструментов и специалистов крупных компаний. По словам OpenAI, доступ к Daybreak помогает таким командам разбирать устаревший код, анализировать подозрительную активность, находить и подтверждать уязвимости, расставлять приоритеты среди рисков, а также разрабатывать и тестировать исправления. В ближайшие недели OpenAI планирует распространить эту модель поддержки на страны-партнёры.

OpenAI объясняет решение растущей угрозой: в ближайшие месяцы, по прогнозу компании, атаки с использованием ИИ станут заметно более массовыми и изощрёнными по мере роста возможностей моделей по всему миру. Компания описывает нынешний период как «окно возможностей защитников», сужающийся промежуток времени, когда ИИ ещё можно использовать, чтобы закрыть пробелы в защите раньше, чем ими воспользуются атакующие; по словам OpenAI, это окно не останется открытым навсегда. Неделей ранее компания вместе с более чем 150 организациями из сфер кибербезопасности, технологий, критической инфраструктуры, финансов и ИИ уже призывала к совместным действиям, в OpenAI подчёркивают, что ни одна компания не способна в одиночку защитить системы, от которых зависят все.

Новая инициатива продолжает уже оказанную поддержку: после недавних атак на системы водоснабжения в США OpenAI предложила пострадавшим штатам и коммунальным предприятиям до $1 млн в виде бесплатных API-кредитов, доступа к Daybreak и технической помощи. С их помощью команды смогли проверить код и конфигурации систем, подтвердить находки, разработать и проверить исправления, при этом системы водоснабжения продолжали работать в штатном режиме.

Сам Daybreak OpenAI запустила ранее в этом году: он даёт проверенным защитникам из госсектора и частных компаний доступ к продвинутому ИИ для санкционированной киберзащиты. Daybreak Blue закрывает типовые задачи защиты на основе основных моделей компании; Daybreak Red даёт одобренным организациям доступ к специализированным кибермоделям для более чувствительной и технически сложной работы. Daybreak уже используют тысячи защитников в 2000 одобренных организациях и рабочих пространствах, включая компании по кибербезопасности, оборонные организации и правоохранительные органы.

Пилот с MS-ISAC ориентирован на госсектор и защиту систем водоснабжения: он должен обучить и поддержать киберзащитников на уровне штатов, местных, племенных и территориальных властей. Пилот сочетает доступ к Daybreak с практическим обучением и сопровождением для первой группы защитников госсектора и водных систем, им помогают подтверждать и приоритизировать находки, координировать устранение уязвимостей и выработать повторяемый подход, который затем можно масштабировать. MS-ISAC поставляет тысячам организаций госсектора, коммунальным предприятиям, государственным больницам, школам K, 12 (с детского сада по 12-й класс) и правоохранительным органам, данные об угрозах, поддержку при инцидентах и обмен информацией в реальном времени.

OpenAI также проводит регулярные встречи с защитниками переднего края, коммунальными предприятиями, местными и региональными властями, локальными банками, чтобы учитывать их опыт при доработке инструментов. На второй такой встрече с коммунальными предприятиями участвовали представители 40 штатов и округа Колумбия, чьи компании в совокупности обеспечивают базовые услуги более чем половине населения США.

По словам компании, конечная цель, не просто находить больше уязвимостей, а устранять их быстрее. На этой же неделе OpenAI опубликовала описание своего подхода к «Defense Factory» («фабрике защиты»), непрерывного процесса на основе ИИ-агентов, который опирается на существующие инструменты безопасности и разработки, находит и подтверждает уязвимости, а затем готовит проверенные исправления для проверки человеком. Компания рассказала об архитектуре и извлечённых уроках, чтобы другие защитники могли адаптировать подход у себя.

Подать заявку на доступ, техническую помощь, обучение и другую поддержку по линии Daybreak могут отвечающие критериям органы власти штатов и местного самоуправления, операторы критической инфраструктуры, некоммерческие организации, мейнтейнеры открытого ПО и другие поддерживающие организации, через сайт Daybreak.

Ключевые факты

• OpenAI выделяет $1 млрд на льготный доступ к моделям и продуктам Daybreak, обучение, техническую поддержку и партнёрства, с прицелом израсходовать эту сумму в США за шесть месяцев.
• «Daybreak for America» объединяет работу компании по защите систем США и включает новый пилот с MS-ISAC для защитников госсектора и водоснабжения.
• Через партнёрскую сеть Daybreak Defense Network выходит более 35 корпоративных продуктов и сервисов, встраивающих модели Daybreak в инструменты, которыми уже пользуются защитники инфраструктуры.
• В приоритете, операторы водоснабжения и электросетей, местные и региональные власти, локальные банки, некоммерческие организации и мейнтейнеры открытого ПО: команды с ограниченными бюджетами против всё более технологичных атак.
• Инициатива продолжает уже оказанную поддержку: после атак на системы водоснабжения в США OpenAI выделяла пострадавшим до $1 млн бесплатных API-кредитов и доступа к Daybreak, а сам Daybreak, запущенный ранее в этом году, уже используют тысячи защитников в 2000 организаций.

Почему это важно

OpenAI объясняет момент тем, что качество ИИ быстро растёт у обеих сторон: по прогнозу компании, в ближайшие месяцы атаки с использованием ИИ станут заметно более массовыми и изощрёнными. Компания описывает текущий период как «окно возможностей защитников», время, когда ИИ ещё можно использовать, чтобы закрыть пробелы в защите раньше, чем ими воспользуются атакующие; по словам OpenAI, это окно не останется открытым навсегда. Неделей ранее компания вместе с более чем 150 организациями из кибербезопасности, технологий, критической инфраструктуры, финансов и ИИ уже призывала к совместным действиям. На этом фоне $1 млрд на льготный доступ, одно из крупнейших публичных обязательств разработчика передовых ИИ-моделей именно в сфере защиты гражданской инфраструктуры от киберугроз.

Кому это важно

В первую очередь, защитники с ограниченными бюджетами: операторы систем водоснабжения и водоотведения, электросетей, региональные и местные органы власти, локальные и региональные банки, некоммерческие организации и мейнтейнеры открытого ПО. Это команды, которые защищают сложные и часто устаревшие системы от быстро развивающихся угроз, не имея ресурсов крупных компаний. Также, организации из Daybreak Defense Network, встраивающие модели Daybreak в свои продукты и сервисы (более 35 таких продуктов уже объявлено), и участники пилота с MS-ISAC: госструктуры штатов, местных, племенных и территориальных властей, а через сам MS-ISAC, коммунальные предприятия, государственные больницы, школы и правоохранительные органы, которые пользуются его услугами.

Как это применить

Доступ к Daybreak делится на два уровня: Daybreak Blue, для типовых задач защиты на основе основных моделей OpenAI, Daybreak Red, для одобренных организаций, которым нужны специализированные кибермодели для более чувствительной и технически сложной работы. Отвечающие критериям органы власти, операторы критической инфраструктуры, некоммерческие организации и мейнтейнеры открытого ПО подают заявку через сайт Daybreak и получают льготный доступ, обучение и техническую поддержку; пилот с MS-ISAC добавляет к этому практическое сопровождение для защитников госсектора и водных систем. По описанию OpenAI, доступ помогает разбирать устаревший код, анализировать подозрительную активность, находить и подтверждать уязвимости, расставлять приоритеты среди рисков и разрабатывать и тестировать исправления; в США компания рассчитывает, что организации израсходуют выделенный на них $1 млрд в течение шести месяцев.

Можно ли доверять

Все сведения в анонсе, от самой OpenAI: ни один из тезисов не подтверждён независимым источником, а единственный голос в тексте, коллективное «мы» компании, без имени конкретного представителя. В источнике нет: разбивки $1 млрд по статьям расходов и странам, списка более чем 35 партнёрских продуктов и их поставщиков, размера скидки или конкретной цены для организации, а также названий, дат и мест недавних атак на системы водоснабжения, сказано лишь «недавние атаки». Масштаб уже действующего Daybreak (тысячи защитников, 2000 организаций) заявлен компанией и не подтверждён внешним аудитом. Это корпоративный анонс, а не независимая проверка результатов.

Риски и подводные камни

Критическая инфраструктура получает стимул завязать защиту на модели одного поставщика, если льготный доступ после шести месяцев сузится или условия у OpenAI изменятся, команды с ограниченными бюджетами рискуют остаться без замены. Собственная риторика компании об «окне возможностей» подразумевает, что такие же передовые модели одновременно доступны и атакующим, то есть OpenAI одновременно наращивает мощность ИИ и продаёт защиту от последствий этого роста. Не описано, как именно проверяют организации-получатели доступа и кто контролирует использование специализированных моделей Daybreak Red. Автоматизация поиска и подготовки исправлений через агентную «Defense Factory» переносит часть ответственности на ИИ-агентов, ошибка в предложенном исправлении для системы водоснабжения или энергосети может создать новую уязвимость вместо устранения старой, если проверка человеком окажется формальной.