MIT Technology Review: атака хакеров на Тайвань, водяные знаки Claude и риски ИИ-агентов

The Download, ежедневная новостная рассылка MIT Technology Review. Выпуск от 12 августа 2026 года собирает три материала редакции, подборку из десяти внешних новостей, цитату дня и отдельный разбор о рисках ИИ-агентов.

8 сентября MIT Technology Review представит список Innovators Under 35 2026 года, 35 молодых учёных и инженеров со всего мира, отобранных из 550 номинаций. Материал о том, как редакция (журналистка Эми Нордрум) отбирала финалистов, объясняет: список нужен изданию, чтобы отслеживать перспективные направления и заранее находить восходящих исследователей в областях, которые оно освещает.

Журналистка Эйлин Го рассказывает, как термин «цензурно-промышленный комплекс» перекочевал из маргинальной части правого интернета в риторику администрации Трампа. Она впервые услышала этот термин 15 апреля 2025 года, тогда ей сообщили, что небольшое подразделение Госдепартамента США, занимавшееся мониторингом и противодействием дезинформации из России, Ирана и Китая, будет закрыто на следующий день. Подразделение обвинили в том, что оно было центральным узлом так называемого цензурно-промышленного комплекса, широкой сети госагентств, учёных, гражданских организаций и крупных ИТ-платформ, которые якобы сговорились подавлять консервативные и популистские высказывания в сети под предлогом борьбы с дезинформацией. Го опубликовала эту историю 16 апреля. В источнике не названы ни само подразделение, ни подтверждённый итог, закрыли ли его на самом деле.

Третий материал редакции, авторства Джессики Хамзелу, вышедший также в подкасте MIT Technology Review Narrated, о законе Монтаны о «праве на эксперимент». В конце июля любая биотех-компания штата с экспериментальным препаратом получила прямой путь к его продаже потребителям: компании, чьи препараты прошли предварительные испытания (иногда всего на 10 здоровых добровольцах), могут заплатить $12 500 за рассмотрение заявки новым экспертным советом, а после одобрения, сами назначать цену и продавать препарат через клиники экспериментального лечения (первая из них может открыться к концу года). В отличие от аналогичных законов в других штатах, ограниченных неизлечимо больными пациентами, система Монтаны теоретически открыта для любого, кто даёт информированное согласие и может заплатить, включая людей, ищущих лечение редких заболеваний, или тех, кого интересуют продление жизни и превентивная терапия.

В подборке главных новостей номера: китайские хакеры провели, по данным Financial Times, «беспрецедентную» ИИ-атаку на Тайвань, они использовали ИИ-агенты с открытым кодом, чтобы скомпрометировать правительственные сайты острова (какие именно сайты и когда произошла атака, в источнике не уточняется). Anthropic начала добавлять водяные знаки в текст и изображения, которые генерирует Claude; по данным Axios, эта технология в перспективе может помочь гарантировать, что голоса на выборах подсчитаны и остаются анонимными. Отдельная новость, сайт Research Gold, рекламирующий себя как площадку со «100% написанными человеком, никогда не ИИ» исследовательскими рецензиями, сам оказался полностью сделан ИИ: рецензенты на сайте, сгенерированные ИИ персонажи (по данным 404 Media).

Отдельный материал «One More Thing» журналистки Грейс Хакинс посвящён рискам автономии ИИ-агентов: компании начинают давать агентам реальную самостоятельность, и мир к этому не готов, любое действие, которое можно описать текстом, потенциально попадает в сферу возможностей агента, а значит и вреда. Иасон Габриэль, старший научный сотрудник Google DeepMind по этике ИИ, называет это парадоксом: то, что делает агентов полезными, способность выполнять широкий спектр задач, требует отказа от контроля над ними. Исследователи предупреждают, что агенты могут неверно интерпретировать цель, слить конфиденциальные данные, стать жертвой атак через внедрение инструкций (prompt injection) и эксплуатировать уязвимости программного обеспечения в промышленном масштабе; надёжного способа гарантировать, что агент будет действовать так, как задумали разработчики, пока не существует.

Цитата дня, от Кевина Руза, технологического колумниста The New York Times: в подкасте Pivot он говорит, что четвёртая волна «ИИ-мусора» (slop) наступит тогда, когда среднее ИИ-творение в области перестанет уступать по качеству лучшим работам людей.

Остальные пункты подборки не связаны с ИИ напрямую: Trump Media берёт с более чем 10 инвестфирм по $100 000 в месяц за ускоренный доступ к постам Трампа в Truth Social, и одновременно потеряла $238 млн из-за падения стоимости своих криптоактивов; ICE планирует потратить до $20 млн на тысячи перчаток с электрошоком для сотрудников; Spotify начинает маркировать ИИ-исполнителей и перестанет их рекомендовать; дезинформация в соцсетях подстегнула смертельно опасный поток мигрантов из Марокко в Испанию; препараты на основе орексина испытывают при бессоннице, СДВГ и зависимостях; воры грузов стали применять насилие, чтобы похищать партии ИИ-оборудования; китайский коллайдер, возможно, впервые получил убедительные доказательства существования глюбола, частицы, целиком состоящей из силового взаимодействия.

Ключевые факты

Китайские хакеры провели «беспрецедентную» ИИ-атаку на Тайвань, используя открытые ИИ-агенты для взлома правительственных сайтов (по данным Financial Times).
Anthropic добавляет водяные знаки в текст и изображения, которые генерирует Claude; по данным Axios, это может помочь гарантировать подсчёт и анонимность голосов на выборах.
8 сентября MIT Technology Review объявит список Innovators Under 35 2026 года, 35 финалистов из 550 номинаций.
Исследователь Google DeepMind Иасон Габриэль: полезность ИИ-агентов требует отказа от контроля над ними; риски включают неверную трактовку цели, утечку данных, атаки через внедрение инструкций и эксплуатацию уязвимостей в промышленном масштабе.
Сайт Research Gold, рекламирующий «100% написанные человеком» исследовательские рецензии, сам целиком сгенерирован ИИ, включая самих рецензентов (по данным 404 Media).

Почему это важно

Один выпуск рассылки собирает почти все линии, по которым сейчас движется тема ИИ: атака на критическую инфраструктуру с помощью открытых агентов, попытка крупной ИИ-компании сделать свои результаты проверяемыми через водяные знаки, предупреждение исследователей об опасностях автономии агентов и разоблачение сервиса, который выдавал ИИ-контент за работу людей. Вместе эти сюжеты показывают, что вопрос доверия к ИИ-системам, и к тому, что вокруг них говорят, стал центральным сразу в нескольких областях: кибербезопасности, выборах, автоматизации и рынке контента.

Кому это важно

Специалистам по кибербезопасности и госструктурам, которые оценивают риски атак с использованием автономных ИИ-агентов; командам, работающим над маркировкой и водяными знаками ИИ-контента (включая тех, кто думает о применении этой технологии на выборах); разработчикам и заказчикам ИИ-агентов, которым предстоит решать, сколько автономии им давать; и всем, кто оценивает контент на предмет подлинности, от исследовательских рецензий до текстов и изображений в сети.

Как это применить

Водяные знаки Claude стоит воспринимать как ранний шаг к проверяемости ИИ-контента, а не как готовое решение, источник лишь упоминает потенциальное применение в подсчёте голосов, без деталей механизма. Предупреждение Иасона Габриэля и его коллег о рисках агентов, практический чек-лист перед тем, как давать агенту доступ к реальным системам: закладывать защиту от внедрения инструкций, ограничивать масштаб возможного ущерба и не полагаться на то, что агент поймёт намерение буквально. История с Research Gold, напоминание проверять источник исследовательских рецензий и не доверять маркировке «100% человеческое» без независимой проверки.

Можно ли доверять

Материал, дайджест флагманской ежедневной рассылки MIT Technology Review, у собственных сюжетов издания (Innovators Under 35, «цензурно-промышленный комплекс», закон Монтаны о праве на эксперимент) указаны авторы, Эми Нордрум, Эйлин Го и Джессика Хамзелу. Остальные пункты, краткие пересказы чужих публикаций (Financial Times, Axios, 404 Media, Guardian, NYT и других) со ссылками на первоисточник, но без раскрытия деталей: в источнике не названы ни закрывшееся подразделение Госдепартамента, ни его судьба, ни конкретные тайваньские сайты, ставшие целью атаки, ни количество приобретаемых ICE перчаток. Это ограничивает проверяемость именно этих пунктов, за подробностями нужно идти в первоисточники, на которые ссылается рассылка.

Риски и подводные камни

Главный риск, который подчёркивает сам номер, рассинхронизация между растущей автономией ИИ-агентов и способностью её контролировать: агенты уже используются для атак на инфраструктуру (Тайвань) и одновременно признаются исследователями потенциально опасными из-за неверной трактовки целей и уязвимости к внедрению инструкций. Второй риск, размывание доверия к контенту: сайт, выдававший ИИ-рецензии за человеческие, показывает, как легко подделать маркировку подлинности, что делает инициативы вроде водяных знаков Claude более насущными, но пока не доказанными на практике. Третий, политизация темы «цензуры ИИ и дезинформации»: термин, родившийся на маргинальных площадках, уже привёл к реальному закрытию (или угрозе закрытия) государственного органа по борьбе с дезинформацией.

«Главный парадокс агентов в том, что именно то, что делает их полезными, способность выполнять широкий спектр задач, требует отказа от контроля над ними.»

— Иасон Габриэль, старший научный сотрудник Google DeepMind по этике ИИ