Мустафа Сулейман: ИИ-моделям нельзя приписывать сознание и права
16 сентября 2026 года блогер Саймон Уиллисон опубликовал в своих заметках цитату из эссе Мустафы Сулеймана «Предостережение о „благополучии моделей“» (A warning about 'model welfare'). В приведённом отрывке Сулейман выступает против того, чтобы относиться к ИИ-моделям так, будто у них есть чувства, предпочтения, права или какое-либо право на заботу о их благополучии. По его словам, сознание, основа человеческих этических, правовых и политических систем, и распространение на ИИ-системы хотя бы части соответствующих прав ничем не подтверждено доказательствами. Он предупреждает, что такое расширение прав лишь усложнит и без того трудную задачу сдерживания (containment) и согласования (alignment) ИИ. Сама заметка Уиллисона содержит только эту цитату, без указания, где и в связи с чем вышло исходное эссе Сулеймана, и без реакций на его заявление.
Ключевые факты
- Мустафа Сулейман выступил против того, чтобы приписывать ИИ-моделям чувства, предпочтения, права или право на «благополучие».
- По его словам, сознание, основа этических, правовых и политических систем, и распространение на ИИ хотя бы части этих прав ничем не подтверждено доказательствами.
- Он предупреждает, что такое расширение прав только усложнит задачу сдерживания (containment) и согласования (alignment) ИИ.
- Цитата взята из его эссе «Предостережение о „благополучии моделей“», опубликована блогером Саймоном Уиллисоном 16 сентября 2026 года.
Почему это важно
В споре о «благополучии моделей» (model welfare) Сулейман формулирует жёсткую позицию: ИИ-системам нельзя приписывать чувства, предпочтения или права, потому что сознание, фундамент, на котором держатся этические, правовые и политические системы людей. Любое расширение этих прав на другую сущность, по его словам, не подкреплено доказательствами и напрямую вредит задаче сдерживания и согласования ИИ.
Кому это важно
Разработчикам ИИ-систем и специалистам по безопасности и согласованию (alignment) ИИ, а также всем, кто формирует этические и юридические рамки для работы с моделями и обсуждает, как о них публично говорить.
Как это применить
Заметка, это цитата из чужого эссе, а не инструкция: практических шагов в ней нет. Позицию Сулеймана стоит учитывать как аргумент против того, чтобы наделять модели статусом, правами или обязательствами по «благополучию» без доказательной базы, особенно в текстах и политике компаний, где такой язык может незаметно закрепиться.
Можно ли доверять
Источник, прямая цитата из эссе Сулеймана, приведённая блогером Саймоном Уиллисоном 16 сентября 2026 года со ссылкой на автора и название работы. Сама заметка не указывает, где опубликовано полное эссе, не даёт более широкого контекста и не приводит реакций на заявление, за пределами процитированного отрывка проверить нечего.
Риски и подводные камни
Позиция подана как категоричный вывод без развёрнутой аргументации: в заметке нет ни описания того, что именно предлагают сторонники идеи «благополучия моделей», ни разбора доказательств, на которые опирается сам Сулейман. Судить о полноте его аргументации по одной цитате нельзя.
«Нам не следует относиться к моделям так, будто у них есть чувства, предпочтения, права или какое-либо право на наше участие в их благополучии. Сознание, основа наших этических, правовых и политических систем. Допустить, что другая сущность может разделить хотя бы отчасти эти права, ничем не оправдано доказательствами и лишь усложнит задачу сдерживания и согласования ИИ.»
— Мустафа Сулейман, эссе «Предостережение о „благополучии моделей“»