Ещё один исследователь Google DeepMind уволился, назвав гонку к суперинтеллекту «безответственной»
Роберт О'Каллахан, технический эксперт Google DeepMind в Новой Зеландии, уволился из компании, указав на риски развития искусственного интеллекта. По его словам, «нынешние темпы изменений слишком высоки». Ранее он занимался инструментами проектирования чипов, которые делали ИИ дешевле и быстрее, теперь он говорит, что больше не может оправдывать этот вклад.
О'Каллахан называет риск, исходящий от суперинтеллектуального ИИ, «реальным, но неопределённым», и утверждает, что «стремление создать ИСИ (искусственный суперинтеллект) в ближайшем будущем по сути безответственно». Среди своих опасений он перечисляет: капитуляцию человеческого мышления перед машинами, вызванные ИИ психозы и одиночество, концентрацию власти, экономические потрясения, риски для кибербезопасности и отсутствие подотчётности за последствия. По его оценке, вред от ИИ, скорее всего, перевешивает пользу от него. Он также говорит, что многие коллеги по DeepMind разделяют его тревогу, но редко высказываются об этом публично. Теперь он намерен заниматься работой, которая «однозначно на стороне человека».
В своём заявлении О'Каллахан ссылается на книгу «If Anyone Builds It» Элиезера Юдковского и Нейта Соареса, но не поддерживает их вывод о том, что суперинтеллектуальный ИИ неизбежно ведёт к катастрофе. Авторы книги связаны с движением эффективного альтруизма, которое критикуют за то, что оно делает акцент на благотворительности, а не на перераспределении богатства. По данным Axios, служебная записка Белого дома описывает это движение как «культоподобную маргинальную группу» и указывает на главу Anthropic Дарио Амодеи как на лицо ИИ-«думеризма» (алармизма по поводу рисков ИИ).
Ключевые факты
- Роберт О'Каллахан, технический эксперт Google DeepMind в Новой Зеландии, уволился из компании из-за опасений по поводу рисков ИИ.
- Он работал над инструментами проектирования чипов, которые делали ИИ дешевле и быстрее, и говорит, что больше не может оправдывать этот вклад.
- Называет риск от суперинтеллекта «реальным, но неопределённым» и считает, что стремление создать его в ближайшем будущем «по сути безответственно».
- Перечисляет опасения: капитуляция мышления перед ИИ, вызванные им психозы и одиночество, концентрация власти, экономические потрясения, риски кибербезопасности, отсутствие подотчётности.
- По его словам, многие коллеги по DeepMind разделяют эти опасения, но редко говорят о них публично.
Почему это важно
Это уже не первый случай, когда сотрудник крупной ИИ-лаборатории публично уходит, ссылаясь на риски создания суперинтеллекта, подобные заявления накапливаются и указывают на растущие внутренние разногласия по поводу темпов и целей разработки ИИ в компаниях вроде Google DeepMind.
Кому это важно
Тем, кто следит за безопасностью ИИ и внутренними настроениями в лабораториях вроде DeepMind и Anthropic, а также регуляторам и журналистам, отслеживающим публичные заявления сотрудников отрасли о рисках.
Как это применить
Прямого практического применения у этой новости нет, это личное заявление уволившегося сотрудника, а не продукт, инструмент или исследование с конкретными результатами.
Можно ли доверять
История основана на публичном заявлении самого О'Каллахана; издание не приводит точную дату увольнения или его точную должность в DeepMind, а данные о числе других сотрудников, ушедших по схожим причинам, отсутствуют. Упоминание записки Белого дома опирается на пересказ Axios, а не на прямую цитату документа.
Риски и подводные камни
Оценки О'Каллахана, это его личное мнение, а не проверенные данные о вреде или пользе ИИ; характеристика движения эффективного альтруизма как «культоподобного» приписывается служебной записке Белого дома в изложении Axios и не подтверждена прямой цитатой. Сам О'Каллахан ссылается на книгу Юдковского и Соареса, но прямо не соглашается с её выводом о неизбежности катастрофы от суперинтеллекта.
«Стремление создать суперинтеллектуальный ИИ в ближайшем будущем по сути безответственно»
— Роберт О'Каллахан, бывший технический эксперт Google DeepMind