OpenAI ограничила ИИ-модель Astra из-за критического риска кибератак

MIT Technology Review выпустил очередной номер своей ежедневной рассылки The Download, сборник новостей и материалов за день. Главная новость номера: OpenAI ограничивает доступ к своей следующей модели, получившей название Astra, после того как оценила её как «критический» риск кибербезопасности. По данным тестирования, модель способна автоматизировать кибератаки; сама компания заявляет, что Astra, первая её модель, перешедшая порог «критического» риска по внутренней шкале OpenAI. Компания планирует дополнительные меры защиты перед более широким выпуском модели.

В том же номере, материал о том, как ИИ-модели справляются с головоломками. Термин «машинное обучение» вошёл в оборот после статьи 1959 года об алгоритме, который научился играть в шашки; с тех пор игры и головоломки остаются одним из главных полигонов для проверки ИИ. В конце 2024 года лучшие модели решали лишь 18% головоломок Connections из The New York Times, а уже к началу 2025 года некоторые модели стали решать их почти безошибочно. Редакция собрала семь головоломок, на которых модели спотыкались, и предлагает читателям пройти тест и сравнить свой результат с результатом ИИ.

Отдельная новость, о полёте к ближайшей звёздной системе. Некоммерческая организация Fermi Explorer Mission объявила о намерении запустить зонд к системе Альфа Центавры (4,4 светового года от Земли) до конца 2029 года. Расчётное время полёта, до 80 000 лет. Траекторию для миссии нашла ИИ-система, разработанная физической исследовательской лабораторией PSI.

Остальные материалы номера, короткая подборка «главного за день», каждый пункт со ссылкой на публикацию другого издания: , Чиновник Пентагона, курирующий военный ИИ (Эмиль Майкл), продал акции Perplexity на сумму до $25 млн; ранее он также продавал акции xAI после того, как Пентагон начал использовать Grok, по мнению обозревателей, это выглядит как превращение оборонного ведомства в венчурный фонд. , Как сообщается, из-за протеста против налоговых льгот для дата-центров один из членов горсовета в штате Миссури (имя в источнике не названо) потерял место; при этом строительство дата-центров в июле выросло, но сталкивается с оппозицией избирателей независимо от партийной принадлежности. , Возможно, впервые удалось зафиксировать первые признаки частиц тёмной материи, но открытие требует дополнительных подтверждений. , По имеющимся данным, Google готовится выпустить кодерскую модель Gemini 3.8 Flash, которая, по результатам тестов, может конкурировать с моделями OpenAI и Anthropic в написании кода; впрочем, не все считают, что ИИ уже хорошо справляется с программированием. , Армия США с помощью лазерного оружия сбила три беспилотника у границы с Мексикой; оружие способно обнаруживать, отслеживать и уничтожать дроны светом. , Картографические сервисы по-разному отреагировали на распоряжение Трампа под названием «Lake America»: Google и Apple внесли изменение на картах, а MapQuest отказался, после этого число скачиваний MapQuest выросло более чем в десять раз. , ИИ-компании спешат ограничить риски создания биооружия: индустрия считает биологию следующим по значимости вызовом для безопасности ИИ; Microsoft заявляет, что ИИ уже способен создавать «угрозы нулевого дня» (ранее неизвестные уязвимости) в биологии. , Производитель экшн-камер GoPro развернулся в сторону ИИ-дата-центров, после чего акции компании выросли на 40%; GoPro также объединяется с компанией Starman Optical, работающей в сфере фотоники. , Dyson представила электрическую зубную щётку с камерой за $499, первую в отрасли модель со встроенной в головку камерой, которая также очищает межзубные промежутки без участия пользователя.

«Цитата дня» номера принадлежит Мариусу Хоббхану, главе исследовательской группы по безопасности ИИ Apollo Research: в разговоре с The Guardian он заявил, что компаниям, создающим сверхразумные системы, критически важно держать их под контролем.

Завершает номер материал о водородной экономике Намибии: с 2021 года, когда правительство страны назвало водород потенциально «преобразующей стратегической отраслью», в стране запланировано или строится не менее девяти проектов, один из которых, на юге страны, входит в число крупнейших предлагаемых в мире инвестиций в «зелёный» водород. Даже частичная реализация этих планов может стать заметным толчком для экономики Намибии, но технология всё ещё в раннем развитии, а долгосрочный спрос на её продукцию остаётся неопределённым.

Ключевые факты

• OpenAI ограничила доступ к своей новой модели Astra, впервые классифицировав модель как «критический» риск кибербезопасности после тестов, показавших её способность автоматизировать кибератаки.
• По имеющимся данным, Google готовится выпустить кодерскую модель Gemini 3.8 Flash, которая, по тестам, может конкурировать с OpenAI и Anthropic в написании кода.
• Некоммерческая организация Fermi Explorer Mission планирует до конца 2029 года запустить зонд к системе Альфа Центавры (4,4 светового года) по траектории, найденной ИИ-системой лаборатории PSI; полёт может занять до 80 000 лет.
• В конце 2024 года лучшие ИИ-модели решали лишь 18% головоломок Connections из The New York Times, а к началу 2025 года некоторые стали решать их почти безошибочно.
• Чиновник Пентагона, курирующий военный ИИ, продал акций Perplexity на сумму до $25 млн, что вызвало критику за конфликт интересов; ИИ-компании также ускоряют работу над ограничением риска создания биооружия.

Почему это важно

OpenAI впервые публично отнесла собственную модель к «критическому» уровню риска по своей внутренней шкале и ограничила её выпуск, это первый случай, когда крупная лаборатория признаёт модель настолько опасной именно из-за способности автоматизировать кибератаки, а не гипотетически. В том же номере, параллельный сюжет о гонке ИИ-компаний за ограничение риска биооружия и заявление Microsoft о «угрозах нулевого дня» в биологии: оба сюжета показывают, что безопасность становится центральной темой отрасли наравне с гонкой за качество моделей (которую тем временем продолжает Google готовящейся моделью Gemini 3.8 Flash).

Кому это важно

Специалистам по кибербезопасности и регуляторам, как первый прецедент публичного ограничения модели по риску кибератак. Самой OpenAI и её конкурентам, включая Google, которая готовит конкурирующую кодерскую модель. Наблюдателям за оборонными закупками, на фоне истории с чиновником Пентагона, продавшим акции ИИ-компаний на фоне своей регулирующей роли. Разработчикам, следящим за прогрессом ИИ на бенчмарках-головоломках, и всем, кто интересуется темой безопасности сверхразумных систем.

Как это применить

Прямого продукта или цены здесь нет: OpenAI лишь заявила, что планирует дополнительные меры защиты перед более широким выпуском Astra, а не открыла к ней доступ. Читатели дайджеста могут пройти опубликованный тест из семи головоломок, чтобы сравнить собственные результаты с результатами ИИ-моделей, это единственный интерактивный элемент номера.

Можно ли доверять

Источник, ежедневная рассылка MIT Technology Review, издания с сильной репутацией в теме ИИ; отдельные пункты дайджеста опираются на публикации The Wall Street Journal, Reuters, CNBC, The Guardian и других авторитетных изданий. При этом почти все пункты, краткие тизеры со ссылкой на материал в другом издании, без подробностей: например, оценка Astra как «критического» риска исходит от самой OpenAI (тестирование не описано в деталях), а имя чиновника Миссури, потерявшего место, и источник дословной цитаты об «итчивых ногах» человечества в номере не названы.

Риски и подводные камни

Формат дайджеста означает, что почти каждая тема раскрыта на уровне заголовка и ссылки, а не полного расследования: не указаны технические детали тестирования Astra на кибербезопасность, компания, стоящая за самой моделью, названа только как «модель OpenAI»; ни стоимость, ни источники финансирования миссии к Альфа Центавре не раскрыты; сообщение о сигнале тёмной материи прямо помечено как предварительное («нужно больше доказательств»); а формулировка про Gemini 3.8 Flash, это пересказ слухов («по имеющимся данным», «может выйти»), а не официальное объявление Google.

«Если вы создаёте систему, которая значительно умнее вас, лучше, чтобы она была на вашей стороне.»

— Мариус Хоббхан, глава Apollo Research, в разговоре с The Guardian