The Download: пересмотр детской безопасности и цена ископаемого топлива в сельском хозяйстве

Материал за подписью Келли Клэнси разбирает тревогу американских родителей: цифровые угрозы стали их главным страхом, из-за чего родители всё чаще ставят детям приложения родительского контроля, те сканируют переписку, фото, письма и чаты и присылают сигнал, когда алгоритм считает что-то опасным. У таких приложений есть реальные успехи: они помогали предотвращать попытки суицида, выявлять людей, охотящихся за детьми, и предотвращать расстрелы в школах. Но они же способны причинять вред сами по себе: ложные тревоги, ненужное вмешательство взрослых, подорванное доверие и тревожность у детей. Исследователи детской безопасности считают, что существуют более удачные подходы к такому мониторингу, какие именно, дайджест не раскрывает, отсылая к полному материалу из свежего печатного номера MIT Technology Review, целиком посвящённого детям.

Второй материал выпуска, за подписью Кейси Краунхарт, из еженедельной климатической рассылки The Spark, показывает, как сельское хозяйство зависит от ископаемого топлива. Цены на удобрения весь этот год скачут, отчасти из-за перебоев в торговле и высоких цен на природный газ, который служит одновременно источником энергии и химическим сырьём для производства аммиака, ключевого компонента удобрений. Война в Иране подняла цены на газ и нарушила торговлю удобрениями через Ормузский пролив; если пролив закроется, беднейшим странам мира станет ещё труднее получать удобрения, но сам факт закрытия пролива источник не утверждает, речь идёт только о риске.

Дальше выпуск короткими ссылками разбирает ещё десять новостей дня. По данным Politico, Нью-Йорк ввёл годовой мораторий на использование ИИ в начальных и средних школах, он затронет 600 тысяч учеников; по данным AP, запрет касается любого программного обеспечения с генеративным ИИ, обращённым непосредственно к ученикам. Rest of World сообщает, что Тайвань раскрыл скрытую китайскую сеть, нацеленную на его чиповую отрасль, на её счету уже 166 случаев нелегальной деятельности и переманивания кадров; по данным Reuters, президент Тайваня заявил, что чиповое превосходство страны держится на демократии, а само MIT Technology Review предупреждает, что тайваньский «кремниевый щит» может слабеть. The Verge пишет, что Uber запустил в Великобритании первый коммерческий сервис роботакси на технологии британского стартапа Wayve, пока с водителями-страховщиками за рулём; при этом, по данным Financial Times, в США Uber, наоборот, объединился с профсоюзами водителей, чтобы притормозить распространение роботакси, а по данным The Guardian, в самой Британии на Uber подали в суд из-за алгоритмического расчёта оплаты труда. The Guardian также сообщает, что американский судья отклонил требование властей заставить Google продать часть рекламного бизнеса, компания избежала принудительного разделения; но, по данным The New York Times, ей всё равно придётся изменить, как она обращается с конкурентами и делится данными, а The Wall Street Journal называет это решение важным прецедентом для антимонопольных расследований в целом. По данным Reuters, сербов после выборов атаковали коммерческим шпионским ПО, среди целей студенческие активисты, депутаты и один местный советник. Quartz сообщает, что администрация Трампа поддержала OpenAI в иске от The New York Times: Минюст США заявил, что обучение ИИ может подпадать под добросовестное использование (fair use); по данным The New York Times, ведомство также сослалось на национальную безопасность, которая зависит от технологического доминирования США, а по данным Reuters, Вашингтон одновременно убеждает страны G20 разрешить обучение ИИ на работах правообладателей. The New York Times также пишет, что жильцы государственного жилья подали в суд из-за датчиков, которые поминутно фиксируют шум и движение в их квартирах. По данным Axios, Anthropic, похоже, вернула себе доверие администрации Трампа, министр торговли США заявил, что компания «теперь на правильной стороне». The Economist рассказывает, что скромные экзоскелеты оказались полезнее боевых суперкостюмов и уже помогают рабочим, пациентам и спортсменам. А NBC News пишет, что низкокачественные, «мусорные» ИИ-изображения блюд добрались до меню настоящих ресторанов, они дёшевы, но часто выглядят отталкивающе.

«Цитата дня» выпуска, от Нихила Лая, ведущего аналитика Forrester, в разговоре с The New York Times о решении по иску к Google: он назвал его концом целой эпохи, когда США пытались раздробить настолько сложные платформы, добавив, что суды по-прежнему не готовы разбирать столь сложные технологические системы, даже находя признаки антиконкурентного поведения. Материал за подписью Бойса Апхолта в рубрике «One More Thing» возвращается к истории компании Colossal Biosciences: в прошлом году она объявила, что клонировала четырёх красных волков, чем удивила учёных, которые спасают этот вид, и даже владельцев животных, чья ДНК пошла на клонирование; сами учёные разошлись и в оценке главной идеи компании, возрождения вымерших видов. Colossal держит местонахождение загадочных клонов в секрете, а их предназначение остаётся неясным даже части учёных: непонятно, как именно клоны должны помочь восстановить популяцию красных волков, и главный вопрос, были ли волки вообще клонированы, материал оставляет открытым, отсылая за ответом к полной версии истории. Выпуск завершает лёгкая подборка: пародия на «Зельду» в британском стиле Уоллеса и Громита, «самая уродливая акула на планете», впервые замеченная живой в естественной среде обитания, самый подробный на сегодня снимок сердца Млечного Пути с телескопа «Евклид» и экскурс в историю веб-браузеров на игровых консолях.

Ключевые факты

Нью-Йорк ввёл годовой мораторий на использование ИИ в начальных и средних школах: под запрет попадает любое ПО с генеративным ИИ, обращённым к ученикам, а мера затронет 600 тысяч школьников (Politico, AP).
Приложения родительского контроля, которые сканируют переписку, фото и чаты детей, помогали предотвращать попытки суицида и выявлять людей, охотящихся за детьми, но и сами причиняют вред, ложными тревогами и подорванным доверием; исследователи детской безопасности считают, что нужны более удачные подходы к мониторингу.
Цены на удобрения весь год скачут на фоне высоких цен на природный газ (сырьё для производства аммиака): война в Иране подняла цены на газ и нарушила торговлю удобрениями через Ормузский пролив, а его возможное закрытие ещё сильнее ударит по беднейшим странам.
Американский судья отклонил требование властей заставить Google продать часть рекламного бизнеса, компания избежала принудительного разделения, но обязана изменить работу с конкурентами и данными; The Wall Street Journal называет решение важным прецедентом для антимонопольных дел (The Guardian, The New York Times, The Wall Street Journal).
Минюст США поддержал OpenAI в иске The New York Times, заявив, что обучение ИИ может подпадать под добросовестное использование, а Вашингтон подталкивает G20 разрешить обучение ИИ на работах авторов; тем временем министр торговли США заявил, что Anthropic «теперь на правильной стороне» (Quartz, The New York Times, Reuters, Axios).

Почему это важно

Выпуск связывает несколько разных по масштабу, но по-своему значимых сюжетов. Во-первых, спор о цифровой безопасности детей: приложения родительского контроля одновременно предотвращают реальный вред и создают новый, ложными тревогами и подорванным доверием, а исследователи говорят, что нужен другой подход, не уточняя, какой именно. Во-вторых, напоминание, что даже ИИ-экономика стоит на обычной физической инфраструктуре: рост цен на газ из-за войны в Иране бьёт по производству удобрений и грозит ударить по продовольственной безопасности беднейших стран. В-третьих, целый узел политических сюжетов вокруг ИИ и крупных технологических компаний: Нью-Йорк на год запрещает генеративный ИИ в школах, пока федеральные власти в лице Минюста, наоборот, встают на сторону OpenAI в судебном споре об обучении ИИ, а Вашингтон продвигает ту же позицию на G20, а Anthropic, по данным Axios, мирится с администрацией Трампа, три ведомства и уровня власти обращаются с ИИ-компаниями совершенно по-разному. Отдельно в выпуске, решение американского судьи не разделять рекламный бизнес Google, которое The Wall Street Journal называет важным сигналом для всех будущих антимонопольных дел против крупных технологических платформ.

Кому это важно

Родителям, школьным педагогам и разработчикам приложений родительского контроля, из-за спора о балансе между защитой детей и вредом от чрезмерного мониторинга. Школьным округам и поставщикам образовательного софта, из-за годового моратория на ИИ в школах Нью-Йорка, который затронет 600 тысяч учеников. Фермерам, производителям удобрений и странам-импортёрам, особенно беднейшим, из-за роста цен на газ и риска для торговли через Ормузский пролив. OpenAI, Anthropic, юристам по интеллектуальной собственности и регуляторам, из-за позиции Минюста США по обучению ИИ на чужих данных и из-за того, как по-разному сейчас складываются отношения крупных ИИ-лабораторий с администрацией Трампа. Юристам по антимонопольному праву и другим крупным технологическим платформам, из-за прецедента по делу Google. Жителям Тайваня и инвесторам в чиповую отрасль, пассажирам и водителям такси в Британии и США, жителям Сербии, арендаторам государственного жилья и специалистам по сохранению редких видов, из-за отдельных, более локальных сюжетов подборки.

Как это применить

Это дайджест-обзор, а не инструкция, поэтому прямых практических шагов в нём немного. Школьным округам и разработчикам образовательных технологий стоит следить за годовым мораторием Нью-Йорка на ИИ в школах как за одним из первых крупных прецедентов такого рода. Семьям, которые уже используют приложения родительского контроля, полезно держать в голове саму мысль материала, успехи таких приложений реальны, но и цена ложных тревог и подорванного доверия тоже реальна, даже если сам дайджест не называет конкретную альтернативу. Компаниям, которые работают с обучением моделей на чужих данных, стоит следить за развитием иска OpenAI и позицией Минюста США по добросовестному использованию (fair use), поскольку от исхода может зависеть более широкая практика в отрасли.

Можно ли доверять

MIT Technology Review, одно из самых авторитетных изданий о технологиях, а сам формат The Download устроен прозрачно: это подборка со ссылками на источники, Politico, AP, Rest of World, Reuters, The Verge, Financial Times, The Guardian, The New York Times, The Wall Street Journal, Axios, The Economist, NBC News, Quartz, а не репортаж одного журналиста. Слабое место жанра: каждый пункт подборки, это одна-две строки пересказа чужого материала, часто из платных изданий (Reuters, Financial Times, The New York Times, The Wall Street Journal, The Economist отмечены в оригинале как платный доступ), так что глубину и нюансы стоит искать в оригинале, а не в дайджесте. Президент Тайваня и министр торговли США в выпуске не названы по имени, только по должности, проверить точность их слов по одному этому тексту нельзя. История Colossal Biosciences подана самим изданием как открытый вопрос: сам вердикт, клонировала ли компания красных волков на самом деле, материал не даёт, а отсылает к отдельному полному тексту.

Риски и подводные камни

Главный риск, потерять сигнал в шуме: в одном выпуске соседствуют приложения родительского контроля, цены на удобрения, школьный ИИ-мораторий, суд над Google, шпионское ПО в Сербии и клонированные волки, и по-настоящему значимые для ИИ-политики сюжеты легко потерять между ними. Каждый пункт подборки, уже пересказ пересказа: дайджест сжимает чужой материал до одной строки, а этот текст, в свою очередь, сжимает дайджест, так что часть нюансов теряется на каждом шаге. Позиция Минюста США о том, что обучение ИИ может быть добросовестным использованием, это аргумент ведомства в одном конкретном судебном споре, а не итоговое судебное решение или устоявшаяся норма права. Фраза «теперь на правильной стороне» о примирении Anthropic с администрацией Трампа не раскрывает, что именно изменилось, это дипломатичная формулировка одного чиновника, а не описание конкретных шагов сторон.

«Думаю, это будет конец целой эпохи, когда США пытались раздробить настолько сложные платформы. Суды по-прежнему не готовы разбирать такие сложные технологические системы, даже когда находят признаки антиконкурентного поведения.»

— Нихил Лай, ведущий аналитик Forrester, в разговоре с The New York Times