Meta позволила ИИ-агенту Muse откровенные чаты, авторы OnlyFans возмущены

WIRED рассказывает, как авторы контента для взрослых отреагировали на решение Meta: компания допускает, чтобы её ИИ-агент Muse вёл откровенные текстовые разговоры с взрослыми пользователями. Muse генерирует откровенный текст, но не изображения и не видео.

Muse, по описанию издания, первый «всегда включённый» ИИ-агент, вышедший за пределы круга ранних последователей в Сан-Франциско. Приложение устроено как цепочка сообщений: пользователь пишет цифровому помощнику, даёт ему доступ к личным данным, например к календарю и почте, а тот сам ищет, чем помочь, скажем, отменяет занятие в спортзале, которое пересекается с ужином. Широкая сеть распространения Meta через Instagram и Facebook, по оценке WIRED, помогла приложению подняться на верхние строки чартов загрузок за первый месяц: миллионы новых пользователей впервые пробовали агента. Помимо работы с календарём, Meta считает допустимым, чтобы пользователи этого приложения только для взрослых вели с Muse разговоры эротического характера. Ранее представитель Meta говорил WIRED, что компания не будет «блокировать законное поведение взрослых».

Онлифанс-создательница Vanniall из Нью-Йорка говорит, что бум генеративного ИИ ей не на пользу: она постоянно находит гиперреалистичные дипфейки с собой и часто не может добиться их удаления. К тому же у неё не получается спокойно наращивать аудиторию в Instagram: «Всегда идёт какая-нибудь жалоба или апелляция». Её аккаунт с более чем 100 000 подписчиков сейчас ограничен и не открывается без входа. Узнав о Muse, она сказала: «Нечестно, что они зарабатывают на людях со своим сексуально активным ИИ-агентом, а настоящим людям, реальным взрослым, не дают проявлять никакую чувственность или сексуальность». По словам автора материала, похожие упрёки звучали и от других создателей контента для взрослых.

Представитель Meta Трейси Клейтон ответила WIRED, что личный разговор один на один между взрослым и персональным ИИ-агентом на платформе для людей от 18 лет сильно отличается от маркетинга и продвижения услуг в соцсети.

Джиз Ли, которая ведёт аккаунт на OnlyFans, отмечает: «Мне кажется, мы уже видим, как ИИ позволяют больше, чем сошло бы с рук людям». Meta ранее помечала публикации Ли в Instagram к удалению. Многие проблемы с онлайн-цензурой Ли возводит к закону FOSTA-SESTA, подписанному президентом Трампом в 2018 году: он затронул защиту платформ по разделу 230, и многие сайты в ответ стали цензурировать контент для взрослых. Ли также хочет знать, как обучали Muse и получил ли кто-нибудь компенсацию от Meta за свои данные. По словам Ли, индустрия реагировала медленно, но всё больше компаний для взрослых прописывают позицию по ИИ в официальных контрактах, чтобы исполнителей не «проглотили» обучающие данные.

Тони Джиниус, у которого тоже есть аккаунт на OnlyFans и который снимается в фильмах для взрослых, рассказывает, что на церемониях награждения рекламу ИИ-агентов зал «просто бешено освистывает». Он опасается, что полностью сгенерированная порнография в будущем может вытеснить живых исполнителей, но считает нынешние ИИ-инструменты полезными для части маркетинговых задач независимых авторов, например для автоматической нарезки видео для соцсетей. По его словам, он уже на седьмом аккаунте в Instagram за последние пять лет. Он удивился, почему Meta сделала приложение Muse только для совершеннолетних, но не хочет создавать отдельное пространство 18+ в соцсетях: «Это мог бы быть Instacam». При этом он готов сотрудничать с технологической компанией и сделать ИИ-версию себя, которой могли бы писать поклонники, чтобы люди-исполнители продолжали зарабатывать и их не вырезали и не обучали на них без спроса. Сейчас главным в связи с аудиторией он считает свою человечность и подлинность.

Vanniall категорически против ИИ-агентов, по крайней мере Muse от Meta: «Перестаньте скачивать это приложение. Вам не нужно отдавать Meta ещё больше денег и личных данных. Им и так хватает».

Для контекста WIRED отмечает, что другие американские платформы допускают откровенный контент: X остаётся одной из самых популярных площадок для привлечения подписчиков у создателей OnlyFans, а часть исполнителей перебралась в Bluesky.

Ключевые факты

• Meta разрешает ИИ-агенту Muse откровенные текстовые переписки со взрослыми в приложении 18+; изображений и видео Muse не создаёт.
• Создатели контента для взрослых, включая Vanniall, Джиз Ли и Тони Джиниуса, жалуются, что их аккаунты в Instagram и других сервисах Meta часто ограничивают; у Vanniall аккаунт с более чем 100 000 подписчиков сейчас ограничен.
• Позиция Meta, которую озвучила Трейси Клейтон: личный чат один на один в приложении 18+ отличается от маркетинга и продвижения услуг в соцсети.
• Авторы опасаются дипфейков и вытеснения людей ИИ-порнографией; Ли спрашивает, как обучали Muse и кому заплатили за данные, а Джиниус готов обсуждать ИИ-версию себя.
• Vanniall призывает не скачивать Muse и не отдавать Meta больше денег и личных данных.

Почему это важно

История показывает противоречие в правилах одной компании: ИИ-агенту Meta позволено вести откровенные разговоры с миллионами взрослых пользователей, а живые авторы контента для взрослых говорят о постоянных ограничениях и жалобах на своих аккаунтах. Muse при этом, по описанию WIRED, первый «всегда включённый» агент, вышедший за пределы круга ранних последователей, и за первый месяц он поднялся на верх чартов загрузок, так что вопрос касается массовой аудитории.

Кому это важно

В первую очередь создателям контента на OnlyFans и других независимым исполнителям, зависящим от видимости в Instagram. Также тем, кто следит за политикой модерации крупных платформ и за тем, какие правила действуют для ИИ-агентов и какие для людей, и пользователям, которые решают, давать ли Muse доступ к календарю и почте.

Как это применить

Практических инструкций в материале нет. Из него следует, что авторам контента для взрослых стоит смотреть, какие позиции по ИИ прописаны в контрактах: Ли замечает, что всё больше компаний закрепляют их официально, чтобы исполнителей не использовали в обучающих данных. Джиниус считает ИИ-автоматизацию для нарезки видео под соцсети полезной для маркетинговых задач независимых авторов.

Можно ли доверять

Это публикация WIRED с прямыми цитатами названных авторов и представителя Meta. Утверждения о популярности Muse и о том, что дистрибуция Meta помогла приложению, даны голосом автора издания, точных цифр загрузок не приводится. Заявления создателей отражают их личный опыт: материал не устанавливает, какие именно ограничения их аккаунтов вызваны контентом для взрослых. Ответ Meta ограничен одним заявлением, на конкретные жалобы об ограничениях и дипфейках компания в тексте не отвечает.

Риски и подводные камни

Среди рисков, о которых говорят герои материала: дипфейки, которые трудно удалить, возможное вытеснение живых исполнителей полностью сгенерированным контентом, использование данных исполнителей для обучения ИИ без компенсации. Разговор с Muse связан с передачей агенту личных данных, о чём предупреждает Vanniall. Заявление Meta о различии между личным чатом и продвижением услуг остаётся позицией компании и не снимает претензий авторов о неравных правилах.

«Личный разговор один на один между взрослым и персонализированным ИИ-агентом на платформе, доступной только людям от 18 лет, сильно отличается от маркетинга и продвижения услуг на платформе социальной сети.»

— Трейси Клейтон, представитель Meta, в комментарии WIRED

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.