Не перекладываем ли мы слишком много мышления на ИИ?

Автор эссе, исследовательница, участвующая в оценке того, как модель Gemini справляется со сложными задачами. Она замечает у себя и у окружающих растущую привычку передавать ИИ не только бытовые мелочи, но и по-настоящему важные решения, от выбора завтрака до поиска партнёра. Отправной точкой для размышлений стал рассказ Кена Лю «Идеальная пара» (2012): в нём универсальный ИИ-ассистент по имени Тилли подбирает герою еду, музыку и даже спутницу для свидания, а на вопрос, почему герой во всём ей доверяет, отвечает: «Кто знает твои вкусы и настроения лучше меня?»

Похожий случай автор наблюдала не в литературе, а в жизни: на стартап-мероприятии в Сан-Франциско её знакомый встретил мужчину с крошечным устройством размером в два пальца, приколотым к рубашке, это оказался микрофон, круглосуточно записывающий все его разговоры. Каждый вечер владелец устройства запускает автоматизированный процесс, который расшифровывает и анализирует записи за день. «Мне кажется, Claude Fable умнее меня. Он лучше меня справляется с критическим мышлением, так что теперь я доверяю ему всё своё мышление», сказал он. Как отмечает автор, стартап этого человека замещает инженеров-людей, записывая и анализируя их рабочие действия без явного согласия самих сотрудников: он не только сам переложил мышление на ИИ, но и построил на этом бизнес, перекладывающий на ИИ ещё и чужое мышление.

Автор прослеживает, как менялась степень делегирования: до ChatGPT, Gemini и Claude люди уже перекладывали часть мышления на поисковики, но поиск всё ещё требовал самому сформулировать вопрос, оценить источники и собрать ответ. Современные ИИ всё чаще выполняют и эти промежуточные шаги, выдавая готовый ответ на сложные и узкоспециальные вопросы за минуты. Инструменты вроде Google Deep Research и OpenAI Deep Research теперь справляются с работой, на которую у человека уходили минуты, часы или дни, на это указывает и отчёт исследовательской организации METR о том, задачи какой продолжительности способны самостоятельно выполнять передовые ИИ-модели.

Дальше автор приводит собственные наблюдения. На прогулках без телефона у неё в голове возникают вопросы («растут ли вишни на деревьях или на кустах?», «где и когда прошёл первый чемпионат мира по футболу?»), но к возвращению домой большинство из них забывается, и она допускает, что в этом есть смысл: не всё достойно немедленного ответа. Более развёрнутый пример, поездка в Португалию с сестрой. У Монумента первооткрывателям (Padrão dos Descobrimentos) сёстры заметили, что Португалия гордится своими «первооткрывателями» той же эпохи, которых в США чаще назвали бы «колонизаторами» и «завоевателями». Экскурсовод подтвердила, что, в отличие от Христофора Колумба в США, Генрих Мореплаватель и подобные фигуры в Португалии не подверглись «культуре отмены», а остаются уважаемыми историческими персонажами. Когда сестра предложила сразу спросить об этом ChatGPT, автор настояла на паузе: они сами выдвинули гипотезы, об относительной однородности и религиозности Португалии в сравнении с многообразием США, о значении «эпохи великих открытий» для национального самосознания страны, и лишь после этого сверили версии с ответом ИИ. Тот подтвердил часть догадок, добавил объяснения, которые они упустили, но и сам не назвал некоторые версии, показавшиеся сёстрам правдоподобными.

Автор признаёт и очевидную пользу делегирования. Она сама работает в сфере ИИ; её кузина, сотрудница корейской компании, использует Gemini для перевода объёмных отчётов с английского на корейский, что заметно ускоряет работу; коллеги автора формулируют исследовательские идеи, а реализацию деталей поручают ИИ-агентам, пишущим код, высвобождая время на анализ; подруга готовилась к MCAT, вступительному экзамену в медицинские школы США, всего за несколько месяцев с ChatGPT в роли персонального репетитора, с нуля осваивая биохимию. Ссылаясь на отчёт ОЭСР о влиянии ИИ на рынок труда и на доклад Международной организации труда о цифровых платформах, автор допускает: если ИИ берёт на себя рутинные, повторяющиеся и утомительные задачи, за которые раньше людям платили гроши, это может освобождать время для более содержательного и приятного мышления.

Но у той же медали есть обратная сторона. Мать автора преподаёт физику в онлайн-университете и подозревает, что почти все её студенты выполняют задания с помощью ИИ: часть ответов совпадает почти дословно, будто вопрос просто скопировали в один и тот же сервис, доказать это невозможно, а сами ответы достаточно полны, чтобы получить высшую оценку. ИИ способен дать ответ, не научив, как до него дойти, и тогда, замечает автор, теряется смысл самого обучения. Сравнивая себя с «человеком-микрофоном», автор признаёт: она тоже собирает данные о себе и раньше поручала ИИ их анализировать; отличие, как ей кажется, в том, что данные, её собственные, вопросы она формулирует сама и сама же оценивает результат. Эссе завершается предостережением из рассказа Кена Лю: героиня по имени Дженни возражает главному герою, что Тилли не просто подсказывает, чего он хочет, а определяет, как ему думать, «Ты вообще ещё знаешь, чего хочешь на самом деле?» Автор заключает, что автономия человека держится в том числе на способности самому формировать свои желания, и оставляет открытым вопрос: что именно мы автоматизируем, человеческий труд или человеческую волю, повседневные задачи или само мышление?

Ключевые факты

Автор, исследовательница, оценивающая возможности модели Gemini решать сложные задачи; отправная точка эссе, рассказ Кена Лю «Идеальная пара» (2012) про ИИ-ассистента Тилли, который подбирает человеку еду и партнёра для свидания.
На стартап-мероприятии в Сан-Франциско встречен мужчина с ИИ-диктофоном размером в два пальца, круглосуточно записывающим его разговоры; он заявил, что доверяет Fable «всё своё мышление», а его стартап без явного согласия сотрудников записывает и анализирует их рабочие разговоры, заменяя инженеров.
В Португалии, у Монумента первооткрывателям, автор с сестрой сначала сами выдвинули гипотезы, почему страна гордится колониальным прошлым в отличие от «культуры отмены» в США, и лишь потом сверили их с ответом ChatGPT, тот подтвердил часть версий и добавил упущенные.
Мать автора, преподаватель физики в онлайн-университете, подозревает поголовное использование ИИ студентами: их ответы совпадают почти дословно, доказать использование ИИ нечем, а полнота ответов обеспечивает высшую оценку.
Среди позитивных примеров, перевод рабочих отчётов через Gemini, реализация идей коллег ИИ-агентами, пишущими код, и подготовка подруги автора к вступительному экзамену MCAT за несколько месяцев с ChatGPT-репетитором; автор ссылается на отчёты ОЭСР и МОТ о пользе автоматизации рутинных задач.

Почему это важно

До эпохи чат-ботов люди уже перекладывали часть мышления на поисковики, но поиск требовал самому сформулировать вопрос и собрать ответ из источников. Современные ИИ (ChatGPT, Gemini, Claude, инструменты вроде Google Deep Research и OpenAI Deep Research) всё чаще берут на себя и эту промежуточную работу, выдавая готовый развёрнутый ответ за минуты, а по данным исследовательской организации METR, продолжительность задач, которые топовые модели способны выполнять самостоятельно, продолжает расти. Грань между «удобным помощником» и утратой личной автономии становится всё тоньше: как показывают и вымышленная Тилли из рассказа Кена Лю, и вполне реальный «человек с диктофоном» из эссе, речь идёт не только об экономии времени, но и о том, кто в итоге принимает решения, определяющие жизнь человека.

Кому это важно

Каждому, кто ловит себя на привычке спрашивать ChatGPT или Gemini вместо того, чтобы сначала подумать самому, от бытовых мелочей до серьёзных решений. Отдельно эссе адресовано преподавателям и студентам (история матери-физика, чьи студенты сдают почти идентичные ИИ-ответы), знаниевым работникам, которые поручают ИИ анализ и черновики, и основателям стартапов, строящих продукты на постоянной записи и анализе разговоров, здесь встаёт вопрос согласия тех, чьи разговоры записывают. Пригодится и тем, кто, как сама автор, профессионально оценивает возможности ИИ-моделей и задумывается о долгосрочных эффектах их использования.

Как это применить

Автор предлагает не запрет, а порядок действий: сначала сформулировать собственные версии или гипотезы (как она с сестрой сделала перед тем, как спросить ChatGPT о колониальном прошлом Португалии), и только потом сверяться с ИИ, используя его для расширения и проверки, а не замены мысли с нуля. ИИ стоит поручать однозначно рутинные задачи, перевод документов, реализацию уже сформулированной идеи в коде, типовой анализ, но формулировать вопрос, курировать данные и оценивать результат стоит самому. Полезная практика, иногда обходиться без немедленного ответа на любой возникший вопрос (например, гулять без телефона), чтобы заметить, какие вопросы для вас на самом деле важны, а какие забываются сами собой.

Можно ли доверять

Это личное эссе автора на собственном Substack-блоге (artfish.ai), а не научная работа: ключевые примеры, истории её друга, случайного знакомого, кузины, матери и собственный опыт, а не статистика или эксперимент. При этом для более широких тезисов автор ссылается на реальные сторонние источники, отчёт METR о продолжительности задач, посильных ИИ-моделям, доклад ОЭСР о влиянии ИИ на рынок труда и доклад МОТ о цифровых платформах труда. Автор прямо указывает, что сама работает над оценкой возможностей Gemini, это добавляет тексту экспертности, но и означает, что перед читателем взгляд человека изнутри индустрии, а не независимое исследование; текст стоит читать как аргументированную колонку-размышление, а не как доказанный вывод.

Риски и подводные камни

Главный практический риск, потеря самой способности мыслить: студенты матери автора сдают почти неотличимые ИИ-ответы, а преподаватель не может ни доказать использование ИИ, ни отличить его от честной работы, при этом сами ответы дают повод не переживать за оценку. Отдельный риск, этический: бизнес «человека с диктофоном» строится на записи и анализе чужих разговоров без явного согласия людей, что поднимает вопрос приватности и границ применения подобных устройств. Глубже всего звучит предостережение о потере автономии желаний: как говорит персонаж рассказа Кена Лю, ИИ-ассистент не просто подсказывает, чего вы хотите, а начинает определять, как вы думаете, а чёткой границы между «автоматизировать рутину» и «делегировать саму способность формировать собственные желания» автор так и не находит.

«Мне кажется, Claude Fable умнее меня. Он лучше меня справляется с критическим мышлением, так что теперь я доверяю ему всё своё мышление»

— предприниматель на стартап-мероприятии в Сан-Франциско (эпизод из эссе)