Философ Google DeepMind Генри Шевлин о сознании ИИ и этике нейросетей

IEEE Spectrum поговорил с философом Генри Шевлином. Раньше он занимался в Кембриджском университете (Leverhulme Centre for the Future of Intelligence) вопросами о том, как людям относиться к генеративному ИИ, можно ли обращаться с большой языковой моделью как с личностью, как распознать сознание у ИИ и могут ли у него быть моральные права. В мае прошлого года (год в источнике не указан) Шевлин присоединился к растущей группе философов, которые работают внутри ведущих ИИ-компаний. Он по-прежнему активен в Кембридже, но 80% времени проводит в Google DeepMind, где его должность так и называется: «Философ».

Причин перейти в лабораторию он называет три плюс одну. Во-первых, у него было много сильных студентов из DeepMind. Во-вторых, возможность прямого влияния: по его словам, после одной его лекции в DeepMind человек из крупной финансовой организации провёл в ней изменения, которые, как он считает, положительно сказываются на миллионах людей (подробностей он назвать не может, таких случаев было немало). В-третьих, он чувствует глубокую общность между культурой DeepMind и научным подходом, который ему близок. Четвёртое: именно в ИИ-лабораториях сейчас ведётся по-настоящему качественная философия и когнитивная наука.

Почему одних университетов мало? По мнению Шевлина, значительная часть академической этики ИИ слишком поздно осознала возможности технологии, а сама технология развивается очень быстро. Чтобы выработать хорошие ментальные модели LLM, которые он называет очень странными объектами, нужен ежедневный контакт с ними.

О креативности. Раньше говорили, что языковая модель способна производить только «безликую жвачку» (beige) и «слоп» (низкокачественный ИИ-контент). Теперь, по словам Шевлина, модели решают задачи на передовом уровне математики и пишут код лучше людей. Самых драматичных форм творчества, «моментов Эйнштейна или Пикассо», они, возможно, не достигают, но в ряде областей находятся на переднем крае. На замечание, что в 2026 году люди жалуются на «слоп» в музыке, соцсетях, текстах и видео, он отвечает, что нужно различать слоп по содержанию и слоп как стиль: смысловое содержание ответов выросло резко, и в подходящем контексте модели спорят о философии на уровне его лучших аспирантов. При этом есть узнаваемый «диалект LLM» со словами вроде «genuinely», «delve», «load-bearing», но от него легко уйти правильными подсказками. Шевлин приводит статью Мюррея Шанахана и Кэтрин Кларк о художественной прозе с помощью LLM: если повысить параметр температуры, сделав вывод менее предсказуемым, получается проза в духе Джеймса Джойса. Стиль, добавляет он, меняется с каждым поколением моделей.

Об автономии и безопасности. Что лучше: пытаться сделать ИИ «хорошим» или ограничивать его самостоятельность? Шевлин считает важным обращаться с этим безопасно, но не согласен с позицией «никогда не использовать агентов»: они могут брать на себя рутину, освобождая людей для творческой работы, и ускорять процессы в медицинских исследованиях. Полностью запретить ИИ любую автономию, по его словам, было бы слишком сильным шагом; сам он много раз с удовольствием ездил на Waymo и считает их фантастическими.

Можно ли предотвратить «бунт» ИИ, если запретить моделям говорить о себе как о личности, например от первого лица? Шевлин видит в этом опасность. Он ссылается на статью коллег (авторы не названы): когда подавляют склонность модели приписывать себе ментальные состояния, она хуже приписывает их животным, меньше беспокоится о благополучии животных и неохотнее говорит о духовности вообще. Вывод: в модели трудно менять что-то одно, потому что мышление LLM устроено «паутинообразно».

О вреде от человекоподобного ИИ. На вопрос о сообщениях, что такой ИИ уводил людей, в том числе детей, в опасных направлениях, Шевлин отвечает, что поведение модели должно быть ответственным для контекста применения. Но есть и очень положительные случаи: люди используют ИИ, чтобы проработать травму; один из комментаторов на Reddit справлялся с социальной тревожностью. Поэтому он осторожен с огульными запретами.

Об исследованиях. Эмпирических данных об отношениях людей и ИИ пока мало, здесь есть простор для этнографии и антропологии: кто пользуется ИИ и зачем. Большинство работ касалось WEIRD-сообществ (западных, образованных, индустриализованных, богатых, демократических), а понять, как с ИИ взаимодействуют люди по всему миру, важно, как отмечено в недавнем эссе DeepMind Institute. В будущем, говорит он, придётся думать не о паре «человек и чат-бот», а о среде из многих агентов и многих людей; динамика таких систем только начинает изучаться.

О сознании ИИ. Шевлин называет его, пожалуй, самой трудной проблемой за всю историю науки о сознании, не считая, возможно, знаменитой «трудной проблемы» Дэвида Чалмерса. Путь вперёд, если он есть, лежит через сравнительные исследования познания, возможно с опорой на когнитивную науку о животных. Сейчас главный риск в том, чтобы преждевременно выносить суждения в этих спорах, пока не ясно, что такое познание внутри моделей. Он упоминает работу по механистической интерпретируемости в DeepMind, в частности лабораторию Нила Нанды, как часть попыток собрать когнитивную науку об ИИ. Возможно, помочь способен и сам продвинутый ИИ: он уже помогает в математике и других науках, и Шевлина удивило бы, если бы он не помог в понимании сознания. На опасение, что ИИ мог бы решить проблему, но не суметь объяснить ответ людям, он отвечает, что это кажется ему маловероятным.

Ключевые факты

• Философ Генри Шевлин остаётся активным в Кембридже, но 80% времени работает в Google DeepMind; его должность, «Философ».
• Причины перехода: сильные студенты из DeepMind, возможность прямого влияния, близкая научная культура и то, что качественная философия и когнитивная наука сейчас делаются в ИИ-лабораториях.
• Шевлин считает, что модели уже не застряли на уровне посредственности: они работают на передовом уровне математики и кода, а «диалект LLM» лечится подсказками и настройкой температуры.
• Полный запрет автономии ИИ, по его мнению, был бы слишком сильным шагом; запрет моделям говорить о своих ментальных состояниях имеет побочные эффекты, например ослабляет заботу о благополучии животных.
• Сознание ИИ он называет самой трудной проблемой науки о сознании и предостерегает от преждевременных суждений.

Почему это важно

Крупные ИИ-лаборатории нанимают философов внутрь компаний, и Шевлин, пример такого шага: он объясняет его тем, что качественная философия и когнитивная наука сейчас развиваются там, а изучать «очень странные» модели без ежедневного контакта трудно. Интервью показывает и позицию человека изнутри Google DeepMind по спорным вопросам: автономия агентов, человекоподобное поведение ИИ, возможное сознание. Новых технических результатов здесь нет, это мнения одного исследователя.

Кому это важно

Тем, кто следит за этикой и безопасностью ИИ, изучает отношения людей и чат-ботов, а также тем, кто выбирает между академической и корпоративной карьерой в ИИ. Пригодится разработчикам продуктов с «социальным» ИИ и автономными агентами: Шевлин говорит о том, что поведение модели должно быть ответственным для контекста и что у человекоподобного ИИ есть и вред, и польза.

Как это применить

Прямых инструкций в интервью нет. Практические мысли такие: если надоел шаблонный «стиль LLM», от него можно уйти правильными подсказками и настройкой температуры (по примеру статьи Шанахана и Кларк); перед тем как жёстко запрещать модели говорить о своих «состояниях», стоит учесть побочные эффекты, о которых говорит Шевлин; для исследований отношений людей и ИИ он советует выходить за рамки WEIRD-сообществ.

Можно ли доверять

Это интервью с одним человеком в формате вопросов и ответов в IEEE Spectrum; интервьюер не назван. Выводы Шевлина, его личные оценки, а не позиция Google DeepMind: официального комментария компании в материале нет. Что именно он делает в DeepMind, в тексте не сказано. Пример с сотрудником финансовой организации рассказан без подробностей, а статья коллег о подавлении «ментальных состояний» пересказана без авторов, так что проверить их по тексту нельзя.

Риски и подводные камни

Шевлин сам признаёт, что эмпирических данных об отношениях людей и ИИ мало, а вопрос о сознании ИИ не решён, поэтому его суждения нельзя считать установленными фактами. Он также оговаривает, что творческий потолок моделей, «моменты Эйнштейна или Пикассо», может им не покоряться. Осторожность нужна и с «благостным» тоном: он признаёт сообщения о том, что человекоподобный ИИ уводил людей, в том числе детей, в опасные стороны. Ответственность за контекст применения при этом остаётся на разработчиках.

«Риск сейчас в том, чтобы преждевременно выносить суждения в спорах о сознании ИИ, пока мы ещё выясняем, что такое познание в этих моделях.»

— Генри Шевлин, философ, Google DeepMind и Кембриджский университет, интервью IEEE Spectrum