SpaceX ведёт переговоры о продаже вычислений для ИИ Пентагону
MIT Technology Review в ежедневной рассылке The Download собрала несколько новостей о том, как ИИ всё глубже врастает в деньги, политику и инфраструктуру.
SpaceX ведёт переговоры о продаже Пентагону вычислительных мощностей для ИИ, сделка оценивается в миллиарды долларов и укрепляет связи компании Илона Маска с Министерством обороны США (со ссылкой на WSJ и Reuters). Параллельно Anthropic ведёт переговоры с Meta о покупке вычислительных мощностей (со ссылкой на CNBC), издание отмечает, что взрывной рост спроса на вычисления для ИИ только начинается.
Новое исследование показало: ИИ-модели предвзяты при найме сильнее, чем люди. Известно, что языковые модели перенимают человеческие предубеждения из обучающих данных, но исследование говорит о другом, модели способны формировать собственные предубеждения из опыта и сильнее стереотипизируют кандидатов, чем люди. Пока ИИ-компании создают агентные модели, запоминающие мельчайшие детали о пользователях, эти детали рискуют стать дополнительным материалом для таких предубеждений, то есть чем «умнее» и «персональнее» ассистент, тем больше у него данных, на которых можно выстроить стереотип о конкретном кандидате.
Эксперты предупреждают о растущем риске саботажа погодных данных. Прогнозы погоды использует не только авиадиспетчеры, операторы энергосетей и фермеры, данные стали важны и для рынков прогнозов (prediction markets), где люди делают денежные ставки на реальные события, включая погоду. Появляется соблазн подделать погодные данные ради выигрыша на таких рынках, а параллельный переход отрасли к ИИ-прогнозам, построенным на данных, увеличивает уязвимость всей системы. Авторы, специалисты в этой области, предупреждают, что риски могут перерасти в куда более крупные системные проблемы для всей цепочки, зависящей от точности прогнозов.
В разделе кратких новостей дайджест упоминает и другие сюжеты: возникла новая индустрия, помогающая политикам редактировать то, что чат-боты рассказывают о них (со ссылкой на NYT); Пентагон ускоряет разработку вооружённых роботов на основе ИИ (со ссылкой на Washington Post); ICE передала Palantir данные Medicaid, доступа к которым у контрактора быть не должно (со ссылкой на NPR); китайский стартап Moonshot приостановил приём новых подписок на модель Kimi K3 из-за резко выросшего спроса (со ссылкой на SCMP). Отдельной цитатой дня издание приводит слова главы компании-оценщика ИИ-моделей Vals AI о контрасте между авторитарными и демократическими правительствами в разработке ИИ.
Ключевые факты
- SpaceX ведёт переговоры о продаже Пентагону вычислительных мощностей для ИИ на сумму в миллиарды долларов; параллельно Anthropic ведёт переговоры с Meta о покупке вычислений
- Новое исследование: ИИ-модели предвзяты при найме сильнее людей и формируют собственные предубеждения из опыта, а не только копируют их из обучающих данных; память агентных моделей о пользователях может усиливать этот эффект
- Эксперты предупреждают о растущем риске саботажа погодных данных, из-за роста ставок на погоду на рынках прогнозов и перехода отрасли на ИИ-прогнозы, построенные на данных
- Кратко: новая индустрия помогает политикам редактировать ответы чат-ботов о себе; Пентагон ускоряет разработку вооружённых роботов на ИИ; ICE передала Palantir данные Medicaid без права на это; китайский Moonshot приостановил подписки на Kimi K3 из-за спроса
Почему это важно
Подборка показывает один и тот же процесс с разных сторон: ИИ одновременно становится инструментом отбора кандидатов (с риском предвзятости), фактором инфраструктурных решений (сделка SpaceX-Пентагон, компьютерный голод Anthropic) и мишенью для манипуляций (саботаж погодных данных, редактирование ответов чат-ботов о политиках). Каждый из этих сюжетов по отдельности мог бы остаться незамеченным, но вместе они складываются в картину: доверие к данным и решениям ИИ становится ресурсом, за который начинают бороться, деньгами, политическим влиянием и техническими манипуляциями.
Кому это важно
Соискателям, чьи резюме всё чаще проходят через ИИ-фильтры до того, как их увидит человек. Отраслям, зависящим от точности прогноза погоды, авиации, энергетике, сельскому хозяйству, а также участникам рынков прогнозов. Компаниям и госструктурам, которые заключают сделки на вычислительные мощности для ИИ (Пентагон, SpaceX, Anthropic, Meta). Политикам и избирателям, в контексте истории о редактировании ответов чат-ботов.
Как это применить
Компаниям, строящим агентные модели с памятью о пользователях, стоит аудировать, не превращается ли эта память в источник скрытых стереотипов при принятии решений о людях (найм и не только). Операторам прогнозных рынков и потребителям погодных данных, учитывать, что переход на ИИ-прогнозы повышает зависимость от качества исходных данных и требует дополнительной проверки их происхождения. Наблюдателям за рынком ИИ-инфраструктуры, следить за сделками вроде SpaceX-Пентагон и Anthropic-Meta как за индикатором того, куда утекают вычислительные мощности и кто их контролирует.
Можно ли доверять
Материал, фирменная ежедневная рассылка MIT Technology Review The Download, которая пересказывает и агрегирует собственные материалы издания и публикации других СМИ (WSJ, Reuters, CNBC, NYT, Washington Post, NPR, SCMP, Guardian, BBC) со ссылками на них. Издание с сильной репутацией в технологической журналистике, но сам дайджест, краткий обзор, а не оригинальное расследование по каждому пункту: для деталей исследований о предвзятости при найме и рисках саботажа погодных данных стоит обращаться к полным материалам по ссылкам, на которые указывает сам дайджест.
Риски и подводные камни
Главный риск, не разовая новость, а тренд: решения о людях (найм) и о критической инфраструктуре (погода, вычислительные мощности) всё больше опираются на ИИ-системы, качество и добросовестность которых трудно проверить со стороны. Саботаж погодных данных способен затронуть далеко не только рынки прогнозов, под ударом авиация, энергосети и сельское хозяйство. Концентрация вычислительных мощностей в руках нескольких игроков (Пентагон, SpaceX, Anthropic, Meta) поднимает вопрос о зависимости и балансе влияния. А индустрия редактирования ответов чат-ботов о политиках показывает, что ИИ-системы уже стали полем политической борьбы за общественное восприятие.
«Самое авторитарное правительство производит самые эгалитарные модели, а то, что должно быть самым демократичным правительством, взращивает компании, которые оказываются самыми авторитарными.»
— Раян Кришнан, глава компании Vals AI, которая оценивает ИИ-модели, в комментарии The New York Times о конкуренции китайских и американских моделей
Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.