Val Town: ИИ-«продавец» в холодной рассылке, это неэтично
Пару недель назад коллеге автора поста по имени Чарли пришло холодное письмо от стартапа со ссылкой на «персонализированное» видео-питч. В 90-секундном ролике человек по имени «Chase» листал сайт Val Town и рассказывал про продукт компании Represent Studio, сервис, который генерирует видео для запуска стартапов: «Привет, Чарли, это Chase из Represent Studio. Я только что был на вашем сайте, и то, что вы делаете, выглядит очень круто». Проблема в том, что Chase не был человеком: как пишет автор, это был либо полностью сгенерированный персонаж, либо клон реального человека. Выдавали его глаза, «стеклянные», бегающие, и подача: слишком нарочито непринуждённая, плюс фраза «мы делали одни из крупнейших запусков в Силиконовой долине» с лишним артиклем «в The Silicon Valley», как будто это устойчивое английское выражение. Чарли напрямую спросил в ответном письме: «Это ИИ-видео?», и без всяких уговоров получил подтверждение: «Да, это видео, сгенерированное ИИ-системой, которую мы сделали сами. Интересно, зацепило вас?»
Автор поста ссылается на писателя Робина Слоуна (Robin Sloan), который в своей рассылке месяцем ранее назвал вещи своими именами: выдавать ИИ-систему за человека в маркетинговой рассылке неэтично, и это было неэтично ещё до появления больших языковых моделей. По мнению Слоуна, честная альтернатива звучала бы так: «Здравствуйте, это автоматическое сообщение от Robot Corporation. Мы считаем вас потенциальным клиентом, поэтому хотим рассказать...», раздражает, но этически нормально. Автор поста называет нарастающий поток такого контента «ИИ-слопом» (AI slop). Слоун предупреждает о сценарии, при котором ИИ-системы «загрязняют каналы человеческого общения настолько, что те перестают быть надёжными или вообще пригодными к использованию», он называет это «глубоким цифро-экологическим кризисом».
Val Town работает почти четыре года, у компании есть платящие клиенты, и коллеги автора, Стив и Чарли, продают продукт сами, вручную общаясь с клиентами ради продаж и обратной связи. Автор подчёркивает: использовать ИИ для инструментов продвижения, это не проблема, у самой Val Town есть шаблоны для квалификации лидов и обогащения данных о регистрациях. Проблема, именно в притворстве. Когда собственные продажи компании начинали ощущаться слишком автоматизированными и неискренними, команда сознательно откатывала назад. Вывод поста, вслед за Слоуном: холодные рассылки, это нормально, если они либо искренне личные, либо искренне безличные; выдавать ИИ-бота за живого человека не хочет никто.
Ключевые факты
- Коллеге автора поста, Чарли, пришёл холодный питч с 90-секундным видео от «Chase», ИИ-персонажа стартапа Represent Studio, выдававшего себя за живого человека
- На прямой вопрос «Это ИИ-видео?» отправитель сразу подтвердил: видео сгенерировано ИИ-системой, которую компания сделала внутри
- Писатель Робин Слоун (цитируется в посте): выдавать робота за человека в маркетинге неэтично; честная альтернатива, прямо написать, что сообщение автоматическое
- Автор поста называет поток такого контента «ИИ-слопом»; Слоун предупреждает о «глубоком цифро-экологическом кризисе», деградации доверия к каналам коммуникации
- Val Town (почти четыре года на рынке, есть платящие клиенты) сама использует ИИ для продаж, квалификация лидов, обогащение данных о регистрациях, но проводит границу именно на притворстве, а не на автоматизации как таковой
Почему это важно
История с «Chase», конкретный пример растущего тренда: стартапы генерируют ИИ-видео с синтетическим «продажником», который выдаёт себя за живого сотрудника, чтобы холодный питч выглядел персональным. Пост фиксирует не техническую новинку, а этическую границу, которую предлагает провести писатель Робин Слоун: дело не в том, использован ли ИИ, а в том, скрывает ли отправитель этот факт. Разница между «автоматическое письмо от робота» и «живой Chase, который только что был на вашем сайте», это разница между раздражающим и нечестным.
Кому это важно
Прежде всего, основателям и маркетологам, которые выбирают инструменты для холодных продаж: пост предупреждает, что синтетические аватары дают быстрый охват, но подрывают доверие, если раскрываются (а Чарли раскрыл подмену одним прямым вопросом). Также, получателям такой рассылки, то есть любому, кто ведёт бизнес-почту и всё чаще должен на глаз отличать живого человека от сгенерированного. Автор прямо связывает это с общей проблемой «ИИ-слопа», растущей необходимостью постоянно проверять источник и правдивость того, что видишь и слышишь через экран.
Как это применить
Ориентир, который предлагает Слоун и поддерживает Val Town: если для контакта используется ИИ, это нужно проговорить прямо, а не маскировать под личное обращение, формулировка вроде «это автоматическое сообщение от [название], мы считаем вас потенциальным клиентом» всё ещё может раздражать, но остаётся честной. Сама Val Town использует ИИ во внутренних инструментах для квалификации лидов и обогащения данных о регистрациях, то есть для аналитики и рутины, а не для того, чтобы подделывать личное общение с клиентом.
Можно ли доверять
Это личный пост компании о собственном опыте и позиции, а не независимое расследование или исследование: факты о видео Chase и переписке с Represent Studio приведены со слов автора и его коллеги Чарли, без стороннего подтверждения. Цитаты из рассылки Робина Слоуна приведены как прямые цитаты. Сама Represent Studio в посте не оспаривается и не опровергается, источник не указывает её сайт, размер или финансирование.
Риски и подводные камни
Слоун предупреждает: такие сообщения «мочатся в бассейн» общей интернет-коммуникации, из-за них искренним авторам и командам становится труднее, потому что растёт общий «шумовой пол» симуляции и мусорного контента. Для компаний, использующих синтетические персоны, есть репутационный риск: как показал случай с Chase, подмену легко вскрыть одним прямым вопросом, и тогда честная автоматизация превращается в историю про обман, попавшую в публичный блог.
«Холодные письма, это нормально: делайте их либо искренне личными, либо искренне безличными. Никто не хочет получать сообщения от вашего ИИ-бота, тем более когда он выдаёт себя за вас, да ещё и переигрывает.»
— Робин Слоун, писатель