Папа Лев XIV призвал «разоружить» ИИ и добиваться запрета автономного оружия
Папа Лев XIV заявил, что системы искусственного интеллекта следует «разоружить». По его словам, люди «несут ответственность направлять, изменять и, когда необходимо, отвергать его применения». В пятничном папском обращении он призвал государства, члены ООН «предпринять конкретные шаги к запрету смертоносного автономного оружия» на их встрече в Женеве в следующем месяце.
Обращение, как пишет The Verge, повторяет многие идеи его первого крупного папского документа, вышедшего в мае, в нём говорилось о защите человеческой личности в эпоху искусственного интеллекта. В духе этой энциклики Лев XIV сказал участникам: «Машины, это инструменты, а не личности». Он предупредил об опасности наделения систем ИИ правами или правовым статусом личности. Решения, затрагивающие человеческую жизнь, свободу и применение силы, по его словам, «всегда должны оставаться под эффективным, осознанным и ответственным контролем человека».
Издание напоминает, что в 2024 году с похожим призывом запретить автономное оружие выступал Папа Франциск: «Ни одна машина никогда не должна выбирать, отнимать ли жизнь у человека». ИИ стал для Льва XIV популярной темой: по данным The Verge, он намекает, что выбрал имя именно потому, что должен отвечать на успехи этой технологии, так же как Лев XIII возглавлял церковь на переднем крае промышленной революции.
Обращение завершается призывом к международным институтам защищать общее благо от рисков, связанных с ИИ. Папа назвал нужными «общие стандарты, независимый надзор и чёткие механизмы подотчётности, чтобы решения о разработке и применении ИИ можно было изучать, оспаривать при необходимости и сопровождать надлежащими средствами возмещения любого причинённого вреда».
Ключевые факты
- Папа Лев XIV заявил, что системы ИИ нужно «разоружить»: люди обязаны направлять, менять и при необходимости отвергать их применения.
- Он призвал страны ООН сделать конкретные шаги к запрету смертоносного автономного оружия на встрече в Женеве в следующем месяце.
- «Машины, это инструменты, а не личности»: Папа предостерёг от наделения ИИ правами и правовым статусом личности.
- Решения о жизни, свободе и применении силы должны оставаться под эффективным и ответственным контролем человека.
- Папа призвал международные институты защищать общее благо от рисков ИИ через общие стандарты, независимый надзор и механизмы подотчётности.
Почему это важно
Обращение главы Католической церкви закрепляет её позицию по ИИ в конкретной просьбе к государствам: двигаться к запрету смертоносного автономного оружия на женевской встрече ООН. Оно продолжает линию майского документа Льва XIV и призыва Франциска 2024 года, то есть тема остаётся постоянной в папской повестке. Новизна умеренная: главные тезисы уже звучали в майском документе.
Кому это важно
В первую очередь тем, кто следит за регулированием ИИ и международными дискуссиями об автономном оружии: обращение адресовано государствам, членам ООН. Интересно и разработчикам ИИ-систем, и юристам: Папа прямо возражает против идеи наделять ИИ правами или правовым статусом личности и требует контроля человека над решениями о применении силы.
Как это применить
Практических инструкций в обращении нет. Его можно использовать как ориентир для разговора о принципах: человеческий контроль над решениями о жизни, свободе и применении силы, общие стандарты, независимый надзор и механизмы подотчётности с возмещением вреда. Наблюдать стоит за тем, как эти формулировки отзовутся на женевской встрече в следующем месяце.
Можно ли доверять
Материал The Verge передаёт обращение с прямыми цитатами Папы, и ключевые тезисы подтверждаются ими. Однако календарная дата выступления названа только как «пятница», название женевской встречи ООН и её точные даты не указаны, а название майского документа не приводится. Фраза о том, что Лев XIV выбрал имя из-за необходимости отвечать на развитие ИИ, дана в источнике как предположение («намекает»), а не как прямое заявление.
Риски и подводные камни
Обращение, призыв и моральная позиция, а не обязывающее решение: источник не сообщает о реакции государств ООН, правительств или ИИ-компаний. Не раскрыто и то, что конкретно означает «разоружить» ИИ, помимо запрета автономного оружия и требований человеческого контроля. Поэтому не стоит читать заголовочную формулу как программу действий, это общее обозначение подхода.
«Машины, это инструменты, а не личности.»
— Папа Лев XIV