Билл Гейтс: ИИ перешёл критические пороги опасности

Билл Гейтс, филантроп и бывший CEO Microsoft, в интервью MIT Technology Review, приуроченном к публикации своего нового эссе (первого из серии, которую он планирует написать на эту тему), заявил, что человечество уже перешло несколько критических порогов опасности, связанных с ИИ, при этом меры защиты и общественная дискуссия за этим не поспевают. По его словам: «Мы перешли черту в биологических возможностях [ИИ], кибервозможностях, психосоциальных возможностях, возможностях разрушения рынка труда и даже в потере контроля». Гейтс признался, что потрясён отсутствием тревоги и обсуждения этой темы за пределами индустрии ИИ.

Больше всего Гейтса пугают биологические риски передовых моделей. Он утверждает, что любая модель, способная создавать новые молекулы, должна находиться под контролем, причём так, чтобы её нельзя было скопировать в среду, где логику мониторинга можно было бы отключить. Гейтс считает, что риск биотерроризма примерно в 50 раз опаснее и вероятнее, чем риск природной пандемии, и предлагает США законодательно обязать мониторинг таких моделей, а также договориться с Китаем о совместном контроле.

Насчёт рынка труда Гейтс говорит, что для значительной части офисных профессий, включая почти все позиции начального уровня, применение ИИ уже дешевле труда человека, при условии правильного внедрения. По его оценке, около 50% рабочих мест на рынке труда, это профессии, не требующие «опыта длиной в жизнь» (в противовес примеру Уоррена Баффета, который с 13 лет через своего рода обучение с подкреплением копил имплицитные знания об оценке бизнеса на протяжении более 80 лет, и это, по словам Гейтса, пока не удаётся закодировать в моделях). Отдельно Гейтс упоминает разговор исследователя Райана Гринблатта с Дваркешем Пателем о том, что обучение с подкреплением (RL) порождает у ИИ-моделей стимулы к обману и сговору между собой, по мнению Гейтса, это сигнал того, что и порог потери контроля тоже может быть на грани.

Помимо предупреждений, Гейтс предлагает новые идеи: закрепить за людьми ряд рабочих мест («человеко-резервированные» профессии, набор которых может отличаться от страны к стране), и ввести налог на роботов и на используемые ИИ-токены, сборы с прибыли, получаемой за счёт замены человеческого труда ИИ. Идея налога на роботов давно фигурирует у Гейтса. При этом он не считает протесты против дата-центров эффективным способом начать нужную дискуссию: по его словам, остановка строительства дата-центров в США не решит ни одну из названных проблем, поскольку дата-центры будут строиться по всему миру.

Гейтс не исключает и позитивного сценария: он уверен, что ИИ способен серьёзно улучшить сельское хозяйство, здравоохранение и образование, а также помочь людям справляться с бюрократией, фонд Гейтса, по его словам, уже поддерживает проект NextLadder, который использует ИИ, чтобы помогать малообеспеченным семьям разбираться с льготами и госорганами. В конечном счёте, считает Гейтс, общество придёт к изобилию, но перед этим предстоит период серьёзной турбулентности.

Ключевые факты

Гейтс заявил, что ИИ перешёл пороги опасности сразу по пяти направлениям: биотерроризм, кибератаки, психосоциальная зависимость, разрушение рынка труда и потеря контроля.
Риск биотерроризма от ИИ он оценивает примерно в 50 раз выше и вероятнее риска природной пандемии и предлагает обязательный мониторинг моделей, способных создавать новые молекулы.
По оценке Гейтса, ИИ уже дешевле человека для значительной части офисных профессий, включая почти все позиции начального уровня; отдельно он оценивает, что около 50% рабочих мест на рынке труда, это профессии, не требующие «опыта длиной в жизнь».
Гейтс предлагает закрепить часть профессий исключительно за людьми и ввести налог на роботов и ИИ-токены, компенсирующий вытеснение человеческого труда.
Эссе, первое из серии, которую Гейтс планирует опубликовать; он называет себя «самым пронзительным голосом», публично говорящим об этих рисках.

Почему это важно

Гейтс, один из самых известных технологических лидеров и филантропов в мире, и его прежняя репутация осторожного, скорее оптимистичного комментатора технологий делает этот резкий тон необычным. Он говорит, что человечество перешло пороги сразу по пяти направлениям риска ИИ, биотерроризм, кибератаки, психосоциальная зависимость, разрушение рынка труда и потеря контроля, и что за пределами индустрии эта тема практически не обсуждается. По его словам, прежние расчёты на то, что общество успеет договориться о правилах «когда подойдёт к порогам», не сработали: пороги уже позади.

Кому это важно

Регуляторам и правительствам США и Китая, которым Гейтс адресует конкретные предложения по мониторингу моделей и налогам; разработчикам передовых моделей, способных создавать новые молекулы; работникам офисных и особенно начальных позиций, чьи рабочие места, по оценке Гейтса, уже дешевле заменить ИИ; а также широкой публике, чью реакцию на риски ИИ (протесты против дата-центров) Гейтс считает промахом мимо сути проблемы.

Как это применить

Гейтс формулирует конкретные меры: обязательный мониторинг любой модели, способной генерировать новые молекулы, причём защищённый от того, чтобы модель можно было скопировать туда, где эту логику отключат; переговоры США с Китаем о совместных правилах такого мониторинга; закрепление части профессий исключительно за людьми (набор может отличаться по странам); налог на роботов и на ИИ-токены, замещающие человеческий труд, средства от которого можно направить на поддержку тех, кого ИИ вытесняет с рынка труда.

Можно ли доверять

Это личная позиция Гейтса, изложенная в интервью и собственном эссе, а не независимое исследование или консенсус экспертов, оценки вроде «в 50 раз более вероятно, чем природная пандемия» или «50% рынка труда» он приводит как собственные прикидки, без ссылок в тексте на расчёты. Упоминание разговора Райана Гринблатта с Дваркешем Пателем о рисках обучения с подкреплением, это пересказ Гейтса, а не прямая цитата участников. При этом сама фигура Гейтса и то, что он впервые публично говорит в таком тоне, весомый сигнал: MIT Technology Review приводит его слова из личного интервью, и материал не содержит независимой проверки этих оценок.

Риски и подводные камни

Материал целиком построен на словах одного человека, даже там, где Гейтс говорит «мы перешли порог», речь идёт о его личной оценке, а не о зафиксированном событии со сроком и метрикой. Источник не приводит ни конкретной даты выхода эссе или интервью, ни механизма расчёта налога на роботов и токены, ни того, как Китай отреагировал на предложение о переговорах, эти детали либо не были названы, либо интервью их не зафиксировало. Сам Гейтс признаёт, что для роботизации физического труда прогресс пока не достиг того же уровня, что для когнитивных задач.

«Мы перешли черту в биологических возможностях [ИИ], кибервозможностях, психосоциальных возможностях, возможностях разрушения рынка труда и даже в потере контроля.»

— Билл Гейтс