Тимнит Гебру и Эмили Бендер: ИИ-хайп этого лета оказался раздут
В колонке для рассылки MIT Technology Review «The Download» Тимнит Гебру, исполнительный директор Distributed AI Research Institute (DAIR), и Эмили М. Бендер, профессор лингвистики Университета Вашингтона, разбирают волну ИИ-заявлений последних месяцев: компании громко объявляли о взломах систем, математических прорывах и перспективе самосовершенствующегося сверхинтеллекта. Во всех этих случаях, пишут авторы, шумная подача компаний, в том числе поданная как «признание вины» в историях со взломами, сопровождалась плотным освещением в прессе. Но когда у экспертов появлялось время разобраться, что произошло на самом деле, картина оказывалась совсем другой. Авторы утверждают, что у технологических компаний есть сильный коммерческий стимул завышать возможности своего ИИ, а иллюзия скорости и срочности, которую компании создают, служит и для того, чтобы сбить с толку регуляторов и общественность. Вывод колонки: к летним заявлениям об ИИ стоит относиться скептически.
В том же выпуске рассылки собраны и другие новости дня. 22 страны призвали создать новый глобальный орган для надзора за ИИ, с предварительным тестированием систем перед выпуском и едиными стандартами безопасности; при этом ни США, ни Китай к декларации не присоединились, хотя OpenAI параллельно предложила собственные глобальные стандарты безопасности ИИ и настаивает, чтобы международную инициативу возглавили именно США. Техас и Калифорния взялись ограничивать дата-центры: Техас приостановил выдачу новых разрешений до завершения аудита энергосети, а Калифорния приняла законы, регулирующие потребление электроэнергии и воды такими объектами. Производитель чипов AMD стал двенадцатой компанией с капитализацией $1 трлн, продажи чипов для ИИ помогли акциям компании вырасти более чем на 180% с начала года. ИИ-агент Meta под названием Muse обошёл ChatGPT и вышел на первое место в американском App Store, что помогло акциям Meta показать лучший месяц за 13 лет; при этом у Muse обнаружена серьёзная уязвимость нулевого дня, а Amazon заблокировал агенту доступ к покупкам на своей площадке.
Ключевые факты
- Тимнит Гебру (DAIR) и Эмили Бендер (Университет Вашингтона) утверждают: летние заявления об ИИ-взломах, математических прорывах и самосовершенствующемся сверхинтеллекте при проверке экспертами оказываются куда скромнее заявленного
- По мнению авторов, у ИИ-компаний есть коммерческий стимул завышать возможности своих систем, а иллюзия срочности служит для того, чтобы сбить с толку регуляторов и общество
- 22 страны призвали создать глобальный орган надзора за ИИ с предварительным тестированием и общими стандартами безопасности; США и Китай в декларацию не вошли
- Техас приостановил выдачу разрешений на новые дата-центры до аудита энергосети, Калифорния приняла законы об их потреблении энергии и воды
- AMD стала двенадцатой компанией с капитализацией $1 трлн на фоне роста продаж ИИ-чипов (акции выросли более чем на 180% за год), а ИИ-агент Meta Muse обошёл ChatGPT в App Store, хотя в нём нашли уязвимость нулевого дня
Почему это важно
Колонка Гебру и Бендер бьёт по самой механике летних ИИ-новостей: компании подают взломы, «прорывы» и разговоры о сверхинтеллекте как сенсации, пресса разносит их без задержки, а к моменту, когда независимые эксперты успевают разобраться в деталях, картина оказывается куда скромнее заголовков. Авторы прямо называют это коммерческим расчётом, завысить возможности ИИ выгодно самим компаниям, а созданное ощущение спешки помогает отвлечь внимание регуляторов и общественности от более приземлённых вопросов.
Кому это важно
В первую очередь, регуляторам и политикам, которые как раз в эти месяцы формируют правила игры для ИИ: 22 страны уже призвали к созданию глобального надзорного органа, а OpenAI параллельно продвигает собственные стандарты безопасности. Важно это и инвесторам, наблюдающим за ралли акций AMD и Meta на фоне ИИ-новостей, и рядовым читателям, которые получают эти истории через призму бизнес-пиара, а не проверенных фактов.
Как это применить
Практический совет колонки, не принимать громкие ИИ-заявления на веру в момент их выхода, а ждать независимой экспертной проверки, особенно если новость подана как признание компании в собственной уязвимости или как прорыв к сверхинтеллекту: именно такие форматы, по наблюдению авторов, чаще всего расходятся с реальностью при ближайшем рассмотрении.
Можно ли доверять
Материал, авторская колонка в новостной рассылке MIT Technology Review, а не независимое расследование издания; её пишут два признанных критика ИИ-индустрии, Гебру, ранее соруководившая командой этики ИИ в Google и основавшая DAIR, и Бендер, профессор лингвистики, известная работами о рисках больших языковых моделей. Конкретные компании и заявления, которые авторы называют преувеличенными, в тексте не раскрываются, это общая оценка, а не разбор конкретного случая.
Риски и подводные камни
У самой колонки есть обратная сторона: это позиция двух известных скептиков ИИ, а не нейтральный фактчек, и без разбора конкретных кейсов читателю остаётся верить общей оценке на слово. Есть и более широкий риск, о котором пишут авторы: если политики и общество продолжат ориентироваться на шумиху компаний, а не на проверенные результаты, регулирование ИИ, включая обсуждаемый сейчас глобальный надзорный орган, может строиться на неверных предпосылках.
«Если ИИ добьётся успеха, он может лишить работы всех нас. Если не добьётся, рухнет вся экономика, ваш пенсионный счёт 401(k) обнулится, и вы всё равно, возможно, потеряете работу.»
— Бен Касселман, главный экономический корреспондент The New York Times
Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.