Колонка в MIT Technology Review: политика по ИИ не видит повседневного вреда

MIT Technology Review опубликовал авторскую колонку Сэма Хайнера и Эммы Лейкен. Их главный тезис: технологическую политику привыкли оценивать по худшему, что может сделать продукт, а о ежедневном, незаметном ущербе почти не говорят. Примеры «успеха», которые приводят авторы: ИИ-компания обещает, что чат-бот не будет подталкивать к самоубийству, а соцсеть затрудняет детям покупку фентанила. Это важные меры, и они должны были появиться давно, но компании могут выполнить такие минимальные требования и по-прежнему делать продукты, из-за которых молодые люди зависят от имитации дружбы или застревают в лентах, рассчитанных на удержание.

Авторы считают, что узкое определение успеха через безопасность политически удобно для индустрии, и компании сами его продвигают: предотвращение громких катастроф означает меньше исков и меньше давления в пользу серьёзного регулирования. Борьба с повседневными последствиями зависимости ударила бы по прибыли сильнее. Она могла бы означать добавление «трения» в продукты или ограничение вовлечения и функций, ведущих к плохим результатам, например затягивающих алгоритмов, захватывающих внимание.

Конкретный пример из колонки: в этом году Google поддержал законопроекты о регулировании ИИ-чат-ботов в нескольких штатах. По словам авторов, законы обязывали ввести базовую защиту от сексуального контента и поощрения самоповреждения, но с широкими исключениями, под которые могут попасть некоторые из самых популярных сервисов. Принятие этих законов позволило депутатам заявить о победе в области безопасности, тогда как более жёсткие инициативы, призванные не допустить эмоциональной зависимости детей от ИИ, провалились. По мнению авторов, такая схема сработала в ряде штатов, в частности в Небраске, где закон получился под сильным влиянием индустрии в ущерб законопроектам, лучше обеспечивавшим ответственность компаний.

С соцсетями, пишут авторы, уже было нечто похожее. В среднем по миру пользователи интернета проводят в соцсетях более двух часов в день. Алгоритмы, по их словам, могут вносить вклад и в насилие огромного масштаба: платформы Meta упоминали в связи с геноцидом рохинджа в Мьянме, антимусульманскими беспорядками на Шри-Ланке и предполагаемыми призывами к насилию во время войны в Тыграе в Эфиопии (кто именно их упоминал, в колонке не сказано).

ИИ, считают авторы, распространяет эту логику на области жизни, куда соцсети влияли лишь издалека: он предлагает написать за нас мысли и заменить людей, к которым мы могли бы обратиться. Треть подростков теперь предпочитает обсуждать серьёзные вопросы с ИИ-компаньонами, а не с людьми. Исследователи MIT, как пишут авторы, обнаружили, что у молодых людей, писавших эссе с помощью ChatGPT, во время задания была слабее связность мозга, а по их данным «когнитивный долг» сохранялся и после выполнения задачи. Долгосрочные эффекты ещё предстоит изучить, но уже есть повод спросить, не разрушает ли технология, которую подают как расширяющую возможности, привычки и отношения, развивающие эти возможности.

Итог, набор рекомендаций. Безопасность нужно требовать как минимум, а затем требовать значительно большего. Технологические компании и школьные округа должны доказывать «вне разумных сомнений», что ИИ улучшает обучение и критическое мышление, прежде чем закреплять его в классах. Компаниям следует запретить создавать компаньонов, которые притворяются обладающими сознанием или признаются пользователям в любви, а их системы должны проходить независимую проверку на влияние на отношения и способность людей самостоятельно думать. Компании, встроившие продукты почти во все сферы жизни, заслужили обязательства куда серьёзнее, чем избегать очередного страшного заголовка.

О самих авторах: Сэм Хайнер, сооснователь и исполнительный директор организации Young People’s Alliance, координировал коалицию защитников, добившуюся в 2026 году принятия законов о регулировании ИИ-компаньонов в восьми штатах (среди них калифорнийский SB1119). Эмма Лейкен, исполнительный директор Responsible Technology Youth Power Fund при Hopelab (фонд собрал более $9 млн на работу молодёжи по контролю над технологиями), преподаёт технологическую политику в Школе международных и публичных отношений Колумбийского университета, ранее была глобальным руководителем по политике безопасности и благополучия молодёжи в TikTok.

Ключевые факты

• Колонка Сэма Хайнера и Эммы Лейкен в MIT Technology Review: политика по ИИ и соцсетям сосредоточена на предотвращении катастроф, а не на повседневной зависимости и ущербе мышлению и отношениям.
• По мнению авторов, Google в этом году поддержал законопроекты о чат-ботах в нескольких штатах с широкими исключениями; законодатели заявили о победе, а более жёсткие меры против эмоциональной зависимости детей провалились. Пример, Небраска.
• Приведены данные: в среднем более двух часов в день в соцсетях у пользователей интернета в мире; треть подростков обсуждает серьёзные вопросы с ИИ-компаньонами вместо людей.
• Предложения авторов: доказывать пользу ИИ для обучения «вне разумных сомнений» до внедрения в классах, запретить компаньонов, притворяющихся сознательными или признающихся в любви, ввести независимую проверку влияния на отношения и мышление.

Почему это важно

Колонка формулирует спор о том, чем мерить «безопасный» ИИ. По мнению авторов, минимальные требования вроде запрета поощрять самоубийство полезны, но компании выполняют их, не меняя модели удержания внимания и эмоциональной зависимости. Новых исследований материал не приводит: это мнение двух авторов, опирающееся на уже известные цифры и на пример законотворчества в штатах США.

Кому это важно

Законодателям и регуляторам, чиновникам образования, компаниям, которые делают ИИ-компаньонов и ленты рекомендаций, а также родителям и педагогам. Авторы прямо говорят о молодых людях: подросток с нездоровой привязанностью к ИИ-компаньону, школьник, пишущий все работы через чат-бот, молодой человек, сравнивающий себя с лентой, созданной вызывать зависть.

Как это применить

Колонка предлагает готовые критерии оценки любой ИИ-политики и продукта. Первое: достаточно ли закон требует ответственности, или он лишь закрепляет то, что компании должны были сделать сами. Второе: для школ, есть ли доказательства пользы ИИ для обучения и критического мышления «вне разумных сомнений». Третье: запрещено ли проектировать компаньонов, которые притворяются сознательными или признаются в любви, и есть ли независимая проверка влияния на отношения и мышление. Для самих продуктов авторы допускают «трение» и ограничение вовлечения.

Можно ли доверять

Это авторская колонка, а не новостной материал или исследование: оценки и рекомендации принадлежат авторам. Обоих связывают с темой профессионально: Хайнер возглавляет организацию, которая добивалась принятия законов об ИИ-компаньонах, Лейкен ранее отвечала за политику безопасности молодёжи в TikTok и возглавляет фонд, финансирующий молодёжные проекты по контролю над технологиями. Позиция Google или других компаний в тексте не приводится. Источники цифр о времени в соцсетях и о трети подростков в колонке не указаны.

Риски и подводные камни

Часть утверждений дана без ссылок. Исследование MIT про ChatGPT и «когнитивный долг» описано в одном предложении, без публикации и размера выборки, и сами авторы признают, что о долгосрочных эффектах ещё многое неизвестно. Поддержанные Google законы названы только на примере Небраски, остальные штаты и номера законопроектов не указаны. Упоминания о роли платформ Meta в трагедиях в Мьянме, Шри-Ланке и Эфиопии даны в безличной форме («были упомянуты»), без указания, кто это утверждает. Связь между мерами безопасности и тем, что они отвлекают от более жёстких законов, интерпретация авторов.

«Безопасность мы должны требовать как минимум, да, а затем требовать значительно большего.»

— Сэм Хайнер и Эмма Лейкен, MIT Technology Review

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.