OpenAI опубликовала принципы партнёрства с государствами в сфере национальной безопасности
Правительства всё активнее применяют передовые модели ИИ для решения важных задач, включая вопросы национальной безопасности. По мнению OpenAI, это создаёт необходимость договориться, лабораториям ИИ, государствам и гражданскому обществу, о том, как такие системы должны использоваться в чувствительных сферах. Компания считает, что демократические общества должны иметь возможность применять ИИ для защиты людей, критической инфраструктуры, государственных услуг и противодействия новым угрозам, в частности, в кибербезопасности и биобезопасности, где ИИ, по мнению OpenAI, даёт ощутимое преимущество именно обороняющейся стороне. Но чем мощнее становятся системы, тем важнее, чтобы их применение укрепляло демократическую подотчётность, осмысленный человеческий контроль и верховенство права, а не вело к концентрации власти.
Исходя из этого OpenAI опубликовала «Принципы национальной безопасности» (National Security Principles), документ, который должен сделать прозрачным подход компании к партнёрству с государствами и использованию её технологий в военной и правоохранительной сферах. Принципы готовила вся компания: к процессу привлекли ведущего эксперта по национальной безопасности Дэвида Криса, который помогал модерировать обсуждение и давал независимую оценку, провели серию сессий, где выслушивали мнения сотрудников по всей компании, и вовлекли в разработку сотрудников из самых разных направлений, от исследований и безопасности до работы с регуляторами и партнёрств с государствами.
Публикация приурочена к расширению работы OpenAI с правительством США и союзниками в чувствительных оборонных областях, прежде всего в кибербезопасности и биобезопасности. За последний месяц в рамках программы киберзащиты Daybreak компания заключила партнёрства «доверенного доступа» (Trusted Access for Cyber) с Австралией, Канадой, Японией, Республикой Корея, Францией, Германией, Польшей, Нидерландами и структурами ЕС, включая Агентство ЕС по кибербезопасности (ENISA); отдельно растёт партнёрство с правительством Великобритании, по киберзащите, тестированию и оценке моделей. По похожей схеме OpenAI действует и в биобезопасности: месяцем ранее компания объявила о расширенном доверенном доступе к модели GPT-Rosalind для избранных госструктур США и союзников, работающих над задачами общественного здравоохранения и биозащиты.
Новые принципы распространяются на все текущие и будущие партнёрства OpenAI в сфере национальной безопасности и правопорядка, включая уже действующее сотрудничество с Министерством войны США. Ещё при объявлении этого контракта в начале года OpenAI зафиксировала жёсткие ограничения: технологию компании нельзя использовать для массовой слежки внутри страны, для управления автономными системами вооружения и для принятия автоматизированных решений с высокими ставками. Опубликованные принципы, по словам компании, согласуются с этими же ограничениями.
OpenAI подчёркивает: компания готова быть прозрачной в том, как её технологию можно и нельзя применять, но большинство по-настоящему значимых вопросов об использовании ИИ государством, особенно в сфере национальной безопасности, должны решаться через демократические процедуры, а не корпоративными правилами. Роль таких компаний, по формулировке OpenAI, помогать информировать эти решения, а не принимать их в одиночку. Поэтому компания заявляет о поддержке законодательных инициатив, устанавливающих защитные барьеры для наиболее рискованных военных применений ИИ, включая слежку внутри страны, автономные системы вооружения и другие направления с высоким риском для национальной безопасности США.
Ключевые факты
- OpenAI впервые опубликовала «Принципы национальной безопасности», документ о работе с правительствами в кибербезопасности, биобезопасности и обороне; над ним работал независимый эксперт Дэвид Крис.
- За последний месяц в рамках программы Daybreak компания дала «доверенный доступ» по кибербезопасности Австралии, Канаде, Японии, Республике Корея, Франции, Германии, Польше, Нидерландам и структурам ЕС (включая ENISA), плюс отдельное партнёрство с Великобританией.
- В биобезопасности OpenAI расширила доверенный доступ к модели GPT-Rosalind для избранных госструктур США и союзников, работающих в сфере общественного здравоохранения и биозащиты.
- Принципы распространяются и на действующий контракт с Министерством войны США, где ещё раньше были закреплены запреты: никакой массовой слежки, управления автономным оружием и автоматизированных решений с высокими ставками.
- OpenAI заявляет, что не должна в одиночку решать самые чувствительные вопросы применения ИИ государством, и поддерживает законодательное регулирование наиболее рискованных военных применений технологии.
Почему это важно
Правительства всё активнее внедряют передовой ИИ в задачи национальной безопасности, а у крупных лабораторий до сих пор не было публичного свода правил на этот счёт. OpenAI, с учётом уже заключённых партнёрств почти с десятком стран и контракта с Министерством войны США, впервые формализует, где проходит граница допустимого. Это задаёт ориентир не только для самой компании, но и для того, как индустрия в целом будет описывать свои отношения с военными и спецслужбами.
Кому это важно
В первую очередь, правительствам и оборонным ведомствам США и стран-союзников (Австралия, Канада, Япония, Республика Корея, Франция, Германия, Польша, Нидерланды, Великобритания, институты ЕС), которые уже получают доверенный доступ к инструментам OpenAI для киберзащиты и биобезопасности. Также это важно для законодателей и регуляторов, обсуждающих правила применения ИИ в военной сфере, и для гражданского общества, которое следит за риском использования ИИ для слежки или автономного оружия.
Как это применить
Опубликованный документ можно использовать как справочник: он описывает, на какие партнёрства государство может рассчитывать (доверенный доступ к киберинструментам по программе Daybreak, доступ к модели GPT-Rosalind для биозащиты) и какие жёсткие ограничения при этом действуют, запрет на массовую слежку, на управление автономным оружием и на высокорисковые автоматизированные решения. Ведомствам, рассматривающим партнёрство с OpenAI, эти принципы дают ориентир по границам будущего контракта ещё до переговоров.
Можно ли доверять
Документ готовила сама OpenAI, это самоописание компании, а не независимый аудит или юридически обязывающее регулирование. Долю внешней экспертизы обеспечивает участие Дэвида Криса, эксперта по национальной безопасности, привлечённого для модерации процесса, а также внутренние обсуждения с сотрудниками из разных подразделений компании. При этом сама OpenAI признаёт: ключевые решения об использовании ИИ государством должны приниматься через демократические процедуры, а не определяться исключительно правилами одной компании, это можно читать как честное признание пределов саморегулирования.
Риски и подводные камни
Список партнёрств уже расширяется быстрыми темпами, почти десяток стран за один месяц, и без внешнего контроля принципы остаются добровольным обязательством, которое компания сама же может пересмотреть. Формулировки вроде «автоматизированные решения с высокими ставками» оставляют простор для интерпретации: неочевидно, кто и как будет определять границу в спорных случаях. Наконец, OpenAI прямо работает с оборонным ведомством, переименованным в Министерство войны США, то есть коммерческий интерес компании как подрядчика военных и спецслужб потенциально соседствует с её же ролью автора этических ограничений для самой себя.
«Мы считаем, что демократические общества должны иметь возможность использовать ИИ для защиты людей, защиты критической инфраструктуры, оказания государственных услуг и реагирования на новые угрозы, в том числе в таких сферах, как киберзащита и биологическая безопасность, где ИИ способен дать ощутимое преимущество именно обороняющейся стороне. Но всё более мощные системы ИИ обязаны применяться так, чтобы укреплять демократическую подотчётность, осмысленный человеческий контроль и верховенство права, а не вести к концентрации власти.»
— OpenAI