OpenAI выделила $5 млн на надзор за использованием ИИ в нацбезопасности
OpenAI объявила о запуске новой инициативы, цель которой, помочь органам демократического надзора получить экспертизу и инструменты для понимания и контроля того, как государство использует ИИ в национальной безопасности. Компания объясняет это тем, что ИИ ускоряет и расширяет возможности силовых и разведывательных структур, но традиционный надзор, трудозатратный и рассчитан на бумажную эпоху; небольшие команды не успевают проверять системы, работающие со скоростью машины, а ошибки из-за устаревшего контекста или неверно настроенных целей становится сложнее заметить вручную, прежде чем они распространятся.
OpenAI подчёркивает, что сама не выполняет функцию надзора за государством и не должна этого делать: эта ответственность остаётся за избранными должностными лицами и специально созданными институтами. Компания заявляет, что готова поддерживать эти институты своей технологией, пока они выполняют уже существующие полномочия.
Работу компания строит на трёх принципах: ИИ должен усиливать, а не подменять человеческое и институциональное суждение, решения о законности и уместности действий государства остаются за уполномоченными органами; использование ИИ государством должно быть прослеживаемым и понятным для уполномоченного надзора, с защитой секретной и чувствительной информации; ИИ должен применяться для усиления самих надзорных институтов, поскольку ручной надзор за использованием ИИ не может масштабироваться.
В течение следующего года OpenAI планирует: вместе с уполномоченными должностными лицами искать практические возможности применения ИИ-инструментов для надзора; выделить $5 млн в виде обучения, технической поддержки и кредитов OpenAI органам демократического надзора для внедрения и оценки ИИ-инструментов; вместе с надзорными институтами пилотировать инструменты, которые помогут уполномоченным проверяющим изучать записи о решениях, принятых с участием ИИ, включая входные данные, результаты и использование инструментов, чтобы понимать, как ИИ повлиял на итог; привлекать гражданское общество и технических экспертов, чтобы их мнение влияло на то, как OpenAI разрабатывает эти инструменты и подходы. Компания отдельно подчёркивает, что контроль над доказательствами, результатами и выводами остаётся у участвующих институтов, а не у OpenAI, и доступ к ним сохранится только у уполномоченных государственных служащих.
Оценивать успех инициативы OpenAI намерена по тому, лучше ли уполномоченные проверяющие справляются со своими обязанностями и растёт ли у общества уверенность, что государственные ИИ-системы используются по назначению. В тексте не названы конкретные страны, институты-партнёры или дата запуска инициативы, а разбивка бюджета в $5 млн по статьям (обучение, поддержка, кредиты) не раскрыта.
Ключевые факты
- OpenAI запускает инициативу поддержки органов демократического надзора за использованием ИИ государством в национальной безопасности
- Компания выделит $5 млн в виде обучения, технической поддержки и кредитов OpenAI
- Планируется пилотировать инструменты для проверки записей о решениях, принятых с участием ИИ
- OpenAI подчёркивает, что не берёт на себя роль надзорного органа над государством, эта функция остаётся у уполномоченных институтов
- Контроль над доказательствами и выводами остаётся у участвующих институтов, а не у OpenAI
Почему это важно
ИИ ускоряет работу спецслужб и силовых структур, но традиционные методы надзора рассчитаны на неспешную бумажную эпоху. OpenAI прямо указывает: ручной надзор не масштабируется до скорости и объёма решений, которые способен генерировать ИИ, а ошибки из-за устаревших данных или неверно настроенных целей становится труднее заметить, прежде чем они успеют повлиять на реальные решения.
Кому это важно
В первую очередь, государственным органам надзора (парламентским комитетам, инспекторам, судебным и контрольным инстанциям), которым предстоит проверять решения, принятые с участием ИИ в сфере нацбезопасности. Также это касается граждан демократических стран, чьё доверие к использованию ИИ государством зависит от того, насколько прозрачно и подотчётно оно применяется.
Как это применить
OpenAI описывает три направления работы: поиск практических точек, где ИИ-инструменты могут повысить эффективность надзора; финансовая и техническая поддержка институтов надзора на $5 млн; и пилотирование инструментов, которые дают уполномоченным проверяющим доступ к записям о решениях с участием ИИ, входным данным, результатам, использованию инструментов. Инструменты обещают делать интероперабельными и по возможности модель-агностичными.
Можно ли доверять
Материал, прямое заявление OpenAI о собственной инициативе, а не независимая оценка. Конкретики немного: не названы ни страны-участники, ни институты-партнёры, ни дата старта, ни разбивка бюджета по статьям, всё это в тексте отсутствует. Само обязательство передавать контроль над доказательствами и выводами участвующим институтам, а не OpenAI, выглядит как попытка снять подозрения в конфликте интересов, но проверить его исполнение можно будет только по факту.
Риски и подводные камни
Инициатива зависит от доброй воли и последующих действий OpenAI, юридически обязывающих обязательств текст не описывает. Компания одновременно продаёт государству ИИ-инструменты для нацбезопасности и предлагает инструменты для надзора за их же использованием, что создаёт потенциальный конфликт интересов, хотя сама компания заявляет, что не берёт на себя надзорную роль. Отсутствие конкретных партнёров и сроков затрудняет оценку того, насколько инициатива реальна на практике, а не декларативна.
«Ручной надзор за использованием ИИ в государстве не может масштабироваться.»
— OpenAI