Equity: не оторваны ли главы ИИ-компаний от людей после слов Майер

TechCrunch опубликовал отредактированный (сокращённый и поправленный для ясности) фрагмент разговора из подкаста Equity. Поводом стала критика очередного главы технологической компании: Мариса Майер, гендиректор Dazzle AI, недавно попала под огонь из-за, казалось бы, оторванных от жизни слов о пользе ИИ. Майер рассказывала, как попросила ИИ-инструмент помочь с заданным в школе описанием её дочери.

Сэм Альтман, глава OpenAI, по пересказу TechCrunch, предлагал родителям создавать для детей персональные подкасты на время поездки в школу и заявлял, что не представляет себе воспитание детей без ChatGPT. Марк Цукерберг, глава Meta, говорил, что получать социальное и романтическое общение от ИИ будет становиться всё более приемлемым. Слова Альтмана и Цукерберга в статье даны в пересказе, а не прямыми цитатами.

Это заставило Аманду Сильберлинг из TechCrunch задуматься, не слишком ли руководители ИИ-компаний далеки от людей, чтобы делать продукты для обычных пользователей. Вопрос, по словам издания, важен: Anthropic готовится выйти на биржу как раз тогда, когда Уолл-стрит начинает остывать к крупным расходам на ИИ.

В разговоре участвовали Кирстен Корозек, Шон О’Кейн, Сильберлинг и автор текста (расшифровка начинается с реплик Энтони Ха). Ха отметил, что в обществе много скепсиса к ИИ: люди чувствуют, что те, кто управляет компаниями, не думают об их интересах. У руководителей, по его словам, огромный финансовый стимул убеждать людей пользоваться технологией во всех сферах жизни, но получающаяся картина непривлекательна, а порой «откровенно антиутопична». Корозек заметила, что ИИ нередко лишь усложняет простые вещи вроде наблюдения за собственным ребёнком, и спросила, к кому на самом деле обращены эти слова.

Сильберлинг привела другие примеры: глава Bumble Уитни Вулф Херд, как она напомнила, говорила об «ИИ-консьержах», когда ИИ одного человека ходит на свидание с ИИ другого и знакомит людей, если свидание удалось. Майер, по пересказу Сильберлинг статьи в New York Times, спрашивала, не может ли её ИИ договариваться с ИИ мужа. Сильберлинг считает, что люди пытаются «оптимизировать» из жизни обычные разговоры; она замечает это и за собой: заказывая еду, неловко звонить в заведение, проще сделать это онлайн. Она прогнозирует мир, где «базовое человеческое общение всё больше оптимизируют до того, что оно просто не происходит», и добавляет, что возможность людей разговаривать друг с другом, вероятно, чистый плюс для общества. О’Кейн иронично спросил про ROI (возврат инвестиций): сколько выручки можно получить с разговора «в реальном мире».

Сильберлинг признала, что свидания действительно неэффективны и утомительны, поэтому идея «ИИ ходит на свидания вместо меня» понятна, но в ней «нет чего-то человеческого». К тому же решение, с кем встречаться, отдаётся компьютеру, который якобы знает человека лучше его самого, а в это она не верит.

На вопрос Корозек, это проблема маркетинга или продукта, Сильберлинг ответила: «Немного и то и другое». Маркетинговая проблема возникает, когда влиятельные люди из очень дорогих компаний обсуждают свои «болевые точки», бронирование столиков, билетов на самолёт. Для неё и среднего человека это не серьёзные трудности. Люди, конечно, находят пользу в ChatGPT и Claude, но не обязательно в бронировании перелётов.

Ха вспомнил, что, когда запускался Uber, был уверен, что сервис не выйдет за пределы узкой аудитории молодых городских жителей Сан-Франциско. Индустрия часто выигрывала, делая ставку на то, что она, передний край и отражает потребителя и семью будущего. Но здесь эта ставка, по его оценке, пока не оправдалась: люди говорят, что хотят сами жить свою жизнь и сами растить детей. Сильберлинг добавила, что неслучайно параллельно с «сверхоптимизацией» в технологической среде растёт движение тех, кто возвращается к кнопочным телефонам и покупает CD, устав от алгоритмов, подсказывающих, что слушать. По её словам, это культурное напряжение, и баланс между полезной оптимизацией и такой, из-за которой мы чувствуем себя менее человечными, пока не найден.

Ключевые факты

• Мариса Майер (Dazzle AI) попала под критику за рассказ о том, как попросила ИИ помочь с заданным в школе описанием дочери; по пересказу TechCrunch, Альтман не представляет воспитание детей без ChatGPT, а Цукерберг считает, что ИИ как источник социального и романтического общения будет всё более приемлем.
• Аманда Сильберлинг на вопрос, это проблема маркетинга или продукта, ответила «немного и то и другое»: влиятельные главы компаний обсуждают свои «болевые точки» вроде бронирования столиков и перелётов, которые для обычных людей не главные.
• Энтони Ха указал на огромный финансовый стимул у руководителей убеждать людей использовать ИИ во всех сферах жизни и на то, что ставка индустрии на «потребителя будущего» здесь пока не оправдалась.
• Сильберлинг критикует идею «ИИ ходит на свидания вместо вас»: решение, с кем встречаться, отдаётся компьютеру, о котором предполагается, что он знает человека лучше его самого, в это она не верит.
• Контрпример к сверхоптимизации, движение за возврат к кнопочным телефонам и покупке CD.

Почему это важно

Материал фиксирует растущий разрыв между тем, как главы ИИ-компаний рассказывают о пользе технологии, и тем, как это звучит для обычных людей. По версии TechCrunch, вопрос стал острым ещё и потому, что Anthropic готовится выйти на биржу в момент, когда Уолл-стрит начинает терять аппетит к крупным расходам на ИИ. Новых продуктов или исследований в материале нет, это разговор-мнение.

Кому это важно

Тем, кто делает и продвигает ИИ-продукты: разговор показывает, какие сообщения воспринимаются как «глухота» к потребностям людей. Также интересен тем, кто следит за отношением общества к ИИ и за рыночной историей вокруг публичных размещений ИИ-компаний.

Как это применить

Прямого практического применения нет: это обсуждение, а не инструкция. Из него можно вынести вопросы для собственных продуктов и коммуникации: к кому обращено сообщение, решает ли продукт реальные трудности среднего человека, а не только «болевые точки» узкого круга.

Можно ли доверять

Это отредактированный фрагмент подкаста с личными мнениями участников, а не расследование и не опрос: данных об уровне недоверия к ИИ в нём нет. Слова Альтмана и Цукерберга даны в пересказе TechCrunch, а слова Майер и главы Bumble приведены по памяти Сильберлинг. Ответов самих упомянутых руководителей в тексте нет.

Риски и подводные камни

Выводы участников, оценочные суждения: например, ставку индустрии на «потребителя будущего» Ха называет пока не оправдавшейся, но сам же вспоминает, что ошибся в оценке перспектив Uber. Отдельные реплики руководителей вырваны из контекста пересказов, поэтому судить по ним обо всей позиции этих людей рискованно.

«Называйте это старомодным, но я думаю, что возможность людей разговаривать друг с другом, вероятно, чистый плюс для общества.»

— Аманда Сильберлинг, TechCrunch, подкаст Equity

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.