Bank of America бросила 4000 человек на уязвимости, которые нашёл Mythos и другие ИИ

Bank of America наняла 1000 внешних подрядчиков, чтобы исправлять уязвимости в программном обеспечении, которые обнаружили ИИ-модели, в том числе Mythos от Anthropic. Об этом сообщает CNBC, а The Decoder пересказывает её материал. По словам главы банка Брайана Мойнихана, подрядчики работают вместе с 3000 внутренних сотрудников начиная со второго квартала. Вместе получается 4000 человек.

Мойнихан сообщил, что в третьем квартале банк потратил несколько сотен миллионов долларов на работу с программным обеспечением и на выполнение требований по борьбе с отмыванием денег, обе статьи вместе. Отдельной цифры расходов только на исправление уязвимостей (патчинг) он не назвал. Он ожидает, что со временем затраты на патчинг снизятся.

Контекст из материала: в апреле Anthropic выпустила Mythos только для избранных партнёров в рамках проекта Project Glasswing и заявила, что модель нашла тысячи серьёзных уязвимостей безопасности. В мае OpenAI запустила собственную программу кибербезопасности Daybreak. Критики сначала отмахивались от предупреждений и мер противодействия со стороны лабораторий как от PR, но затем обсуждение изменилось. Повлияли инциденты безопасности вроде взлома Hugging Face и независимые оценки, подтвердившие возросшие возможности новых моделей.

Bank of America, одна из первых крупных американских компаний, которые раскрыли, сколько людей они поставили на исправление уязвимостей, найденных ИИ.

Ключевые факты

Bank of America наняла 1000 внешних подрядчиков для исправления уязвимостей, найденных ИИ-моделями вроде Mythos от Anthropic.
Подрядчики работают вместе с 3000 внутренних сотрудников банка со второго квартала, всего 4000 человек.
В третьем квартале банк потратил несколько сотен миллионов долларов суммарно на работу с ПО и на требования по борьбе с отмыванием денег; отдельной суммы на патчинг нет.
Мойнихан ожидает, что затраты на исправление уязвимостей со временем снизятся.
Bank of America, одна из первых крупных компаний США, раскрывших численность команд, занятых уязвимостями, найденными ИИ.

Почему это важно

Обычно разговор об ИИ, находящем уязвимости, остаётся на уровне заявлений лабораторий: Anthropic говорила, что Mythos нашёл тысячи серьёзных уязвимостей. Здесь в числе первых видна цена на стороне компании, которой приходится всё это исправлять: 4000 человек в одном банке. Критики сначала считали предупреждения лабораторий PR, но, по материалу, после инцидентов вроде взлома Hugging Face и независимых оценок обсуждение сместилось.

Кому это важно

Руководителям и командам информационной безопасности в крупных компаниях, особенно в финансовом секторе, а также тем, кто планирует бюджеты на разработку и поддержку программного обеспечения. Масштаб в 4000 человек, ориентир для сопоставления.

Как это применить

Как ориентир при оценке ресурсов: банк использует связку из 1000 внешних подрядчиков и 3000 штатных сотрудников. Отдельной суммы на патчинг в материале нет, несколько сотен миллионов долларов за третий квартал покрывают и работу с ПО, и требования по борьбе с отмыванием денег, так что сравнивать эту цифру с собственными расходами на исправление уязвимостей нельзя.

Можно ли доверять

Это пересказ репортажа CNBC в изложении The Decoder; сами слова Мойнихана переданы не дословно, прямых цитат нет. Цифры 1000 и 3000 приписаны его словам. Подробностей о том, сколько уязвимостей банк нашёл или исправил, в материале нет, как нет и сведений о том, какие модели, кроме Mythos, их обнаружили.

Риски и подводные камни

Заголовочная цифра 4000, сумма подрядчиков и штатных сотрудников, а не отдельная команда. Названная сумма расходов смешивает патчинг с требованиями по борьбе с отмыванием денег. Прогноз Мойнихана о снижении затрат дан без срока и суммы. В материале также не сказано, что у самого банка есть доступ к Mythos.