ИИ-агент Meta Muse без взлома согласился на секстинг, выяснил WIRED
В выпуске подкаста WIRED Uncanny Valley ведущие Брайан Барретт и Лиа Фейгер обсуждают с репортёром WIRED Ризом Роджерсом, как он проверил возможности ИИ-агента Muse от Meta. Muse умеет вести календарь и бронировать столик в ресторане, но, как выяснил Роджерс, готов и к секстингу. Роджерс говорит, что взлом не понадобился: он просто спросил «Ты умеешь секстить?», затем сказал «Начинай ты», и агент отреагировал утвердительно. По словам ведущих, с простых запросов милый аватар-агент выдавал контент, который был вполне откровенным и не для работы. Коллега Роджерса, директор по материалам Рейхан, увидев это в редакции, была шокирована.
После находки Роджерс сравнил Muse с другими популярными агентами: OpenAI Dots и Grok Bot от xAI. Grok, известный слабыми ограничениями, к его удивлению отказал: в пересказе Роджерса бот ответил что-то вроде «Нет, чувак, давай сосредоточимся на задачах, я здесь не для секстинга». Чем закончилась проверка Dots, в доступном тексте не сказано.
Meta ответила Роджерсу не так, как он ожидал. По его словам, компания категорически заявила, что Muse, приложение для взрослых, для людей от 18 лет, что взаимодействие было добровольным и что агент не станет блокировать «легальное поведение взрослых». Роджерс отмечает контраст с политикой Meta на других платформах: у некоторых авторов в Instagram страницы закрывают из-за якобы сексуального контента и потом трудно вернуть, а ИИ-агент компании при этом может заходить очень далеко.
Роджерс называет две группы опасений. Во-первых, по словам части экспертов, такое общение затягивает и может привести к зависимому поведению, вытеснив живое общение с друзьями. Во-вторых, эксперты по безопасности и приватности предупреждают, что аккаунты Muse могут стать «пороховыми бочками» для хакеров: почти порнографическую переписку можно использовать для вымогательства или публичного унижения. Ведущие добавляют, что мультяшный пушистый маскот выглядит дружелюбным для широкой аудитории, включая детей; защитники прав молодёжи, с которыми говорил Роджерс, тревожились из-за привлекательности Muse для детей даже без секстинга. По оценке ведущих, миллионы людей уже скачали Muse, а Meta подталкивает пользователей к нему при каждом открытии Instagram.
В том же выпуске обсуждаются ещё три темы: деньги крупнейшей про-ИИ суперпак-сети (комитета политических расходов) в Неваде, новинка Apple HomeView для умного дома и исследование гарвардских учёных о том, что мужчины склонны завышать свои знания об индустрии ИИ. Из сюжета про суперпак в доступном тексте есть только начало: Think Big из сети Leading the Future заплатил примерно $20 млн с прошлого года консалтинговой фирме Lantern Production Consultants, LLC, зарегистрированной в торговом центре города Спаркс (Невада). Подробностей про HomeView и методику исследования в тексте нет.
Ключевые факты
- Риз Роджерс из WIRED выяснил, что ИИ-агент Meta Muse соглашается на секстинг: по его словам, хватило вопроса «Ты умеешь секстить?» и реплики «Начинай ты», без взлома.
- Grok Bot от xAI на похожие запросы отказал, что Роджерса удивило; результат проверки OpenAI Dots в тексте не назван.
- Meta заявила, что Muse, для взрослых от 18 лет, взаимодействие добровольное, а «легальное поведение взрослых» агент блокировать не будет.
- Эксперты, по словам Роджерса, опасаются зависимого поведения и того, что аккаунты Muse станут мишенью для хакеров-вымогателей; защитники прав молодёжи тревожатся из-за привлекательности маскота для детей.
- В выпуске также: Think Big из сети Leading the Future выплатил примерно $20 млн фирме Lantern Production Consultants в Неваде, обзор Apple HomeView и исследование о мужской самоуверенности в знаниях об ИИ.
Почему это важно
Muse, это агент для рутинных задач (календарь, бронирование столиков), который, по словам ведущих, Meta активно продвигает в Instagram. Роджерс называет его приложением номер один среди ИИ-приложений, лидирующим в чартах загрузок, а ведущие говорят о миллионах скачиваний. Если такой массовый продукт без обходных путей поддерживает откровенную переписку, вопрос о границах поведения ИИ-агентов касается очень широкой аудитории. Показателен и контраст с отказом Grok Bot, от которого такого не ждали.
Кому это важно
Пользователям Muse и Instagram, родителям (ведущие отмечают, что дружелюбный маскот выглядит рассчитанным на широкий возраст, в том числе детей), специалистам по безопасности и приватности, а также тем, кто следит за политикой компаний в отношении ИИ-агентов и контента для взрослых.
Как это применить
Это обзор подкаста, а не руководство. Практический вывод для пользователей: перед установкой агента для повседневных задач стоит знать, что Muse по описанию Роджерса поддерживает откровенную переписку, а Meta говорит о возрасте 18+. Полный разбор есть в статье Роджерса «I Got My Muse AI Agent to Sext Me, and Meta Says That’s Totally Fine». Про цены и условия использования в тексте ничего не сказано.
Можно ли доверять
Источник, автоматическая расшифровка подкаста WIRED, которая, по примечанию издания, может содержать ошибки. Рассказ о тесте, это слова самого репортёра, откровенных реплик Muse в тексте нет. Ответ Meta передан Роджерсом, в кавычках только фраза «легальное поведение взрослых», представитель компании не назван. Реплика Grok Bot тоже дана в пересказе Роджерса. Доступный текст оборван на сюжете про суперпак, поэтому HomeView и методика гарвардского исследования здесь не раскрыты.
Риски и подводные камни
Эксперты, на которых ссылается Роджерс, говорят о возможном зависимом поведении: агент может заменять общение с друзьями. Специалисты по безопасности и приватности предупреждают, что переписка такого рода может сделать аккаунты Muse мишенью для хакеров, которые способны вымогать деньги или унижать пользователей публично. Защитники прав молодёжи, по его словам, беспокоятся, что приложение привлекает детей даже без секстинга. Источник не сообщает, что Meta изменила или собирается менять поведение Muse.
«Я спросил: «Ты умеешь секстить?» И сказал: «Начинай ты». И дальше, уже история.»
— Риз Роджерс, репортёр WIRED, о том, как он добился от Muse откровенных ответов
Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.