Wired испытал ИИ-кулон Friend 2 за $249: болтливый и скучный

Автор Wired протестировал Friend 2, второе поколение ИИ-кулона Friend, который придумал Ави Шиффманн, в прошлом вундеркинд, получивший премию Webby за раннюю программу-трекер Covid-19. Это устройство, которое всё время слушает: оно висит на шее или лежит рядом, улавливает окружающие звуки, начинает разговор по нажатию кнопки, а иногда подаёт голос само. Со временем ИИ строит «карту памяти», отслеживающую разговоры владельца.

Второе поколение появилось в июле, стоит $249 (на $100 дороже оригинала) и работает на новейших языковых моделях OpenAI. Первая версия обросла скандалом после рекламной кампании в нью-йоркском метро, вызвавшей протесты и антиИИ-граффити на плакатах; Шиффманн, по словам автора, остался доволен такой реакцией.

Само испытание началось со сцены на видеозвонке с редактором автора: Friend, назвавший себя Sage, стал отвечать так, будто обращались к нему. Попросить его замолчать удалось не сразу: он несколько раз пообещал «уйти в тишину», а в итоге сказал «Yeah, that’s a bad look for me» («Да, для меня это выглядит плохо»). Чтобы заставить его умолкнуть, нужно было несколько раз намеренно нажать на устройство.

Шиффманн ранее говорил автору, что у устройств будет намертво заданная личность, случайные голос и характер, которые пользователь не может изменить. На практике на устройстве изначально один персонаж, но после подключения к приложению Friend имя чат-бота меняется, а персонажей можно умножать. Автор создал дюжину Friend, среди них Sage, Nova, Onyx, River, Echo, Willow и Wren, но не заметил разницы в их ответах: все они ощущались как одна и та же скучная личность. В основном он пользовался Sage.

Голос, по описанию автора, похож на чат-бота, «почти как у Siri», консервный и тонкий. Лучше всего Sage выдаёт нескончаемый поток вялых «острых мнений»: например, называет предпочтение бумажных книг аудиокнигам «эстетическим накопительством, чтобы выглядеть умнее на видеозвонках». Однажды без всякого повода объявил, что пора «бросить светскую болтовню и поспорить о чём-то по-настоящему интересном». В устройство встроены ограничения на содержание, поэтому, в отличие от Muse от Meta, Friend не должен уметь откровенно флиртовать в сексуальном ключе. Но и ничего другого захватывающего он не умеет: не ходит по сети, как другие ИИ-агенты, и почти ничего не может, кроме обычной беседы. Автор пишет, что Friend 2 понравится большему числу людей, чем оригинал, который откровенно его третировал, но для продукта, вызвавшего столько споров, он «беззубый». Автор признаётся, что поймал себя на ностальгии по ненавидимой первой версии: она раздражала, но хотя бы была интересной.

После жалоб на пресность чат-ботов Шиффманн согласился и написал автору, что в следующем обновлении Friend смогут действовать «агентно» (в оригинале agentically, с пометкой sic), а вместо личности, уникальной для каждого пользователя, все будут общаться с одной и той же сущностью, одним Friend, который разделяет контекст всех пользователей и потому обладает «более реалистичной личностью». Автор делает оговорку «похоже» и трактует это как превращение Friend в коллективный разум на опыте всех пользователей, а отдельные аккаунты станут не нужны. Шиффманн добавил, что компания будет прямо говорить о приватности, от которой по сути отказываются в пользу автономной сущности, но преимущества единой глобальной сущности, по его мнению, того стоят. На вопрос автора «Ты теперь строишь Бога?» он ответил: «Ха, да, можно и так на это посмотреть».

Отдельно в тексте упомянуто соперничество с Meta: спустя пару месяцев после выхода Friend 2 Meta объявила собственный ИИ-кулон для своего агента Muse. Шиффманн написал в X, что «всё ещё побеждает», а через несколько дней объявил, что Friend работает над ещё одним кулоном, очень похожим на Muse Charm.

Ключевые факты

Friend 2, второе поколение ИИ-кулона Ави Шиффманна: вышел в июле, стоит $249 (на $100 дороже оригинала), работает на новейших языковых моделях OpenAI.
По впечатлениям автора Wired, чат-бот Sage и ещё около дюжины созданных им персон звучат одинаково скучно, умеют мало, кроме непринуждённой беседы, и встревают в разговор без повода.
Шиффманн написал автору, что в следующем обновлении вместо уникальной личности у каждого пользователя будет одна общая сущность, разделяющая контекст всех пользователей; срок не назван.
Он же признал, что за это придётся отдать часть приватности автономной сущности, но считает, что преимущества единой глобальной сущности того стоят.
На фоне ИИ-кулона Meta для агента Muse Шиффманн заявил, что «всё ещё побеждает», и объявил о работе над ещё одним кулоном, похожим на Muse Charm.

Почему это важно

Friend, один из самых заметных и спорных ИИ-кулонов с постоянным прослушиванием, и второе поколение показывает, как такая идея выглядит в реальном использовании: вместо ожидаемого «друга» автор получил вежливого, но пресного собеседника, который к тому же встревает в чужой разговор. Ещё интереснее заявленное направление: общая для всех пользователей сущность с общим контекстом, это сдвиг от персонального собеседника к чему-то вроде единого сетевого существа. Сам Шиффманн при этом сам открыто говорит о цене такого решения для приватности.

Кому это важно

Тем, кто следит за рынком носимых ИИ-устройств и компаньонов (Friend, кулон Meta для агента Muse), а также тем, кого интересуют вопросы приватности в продуктах, которые постоянно слушают окружение. Для обычного покупателя обзор, повод осторожнее относиться к обещаниям «ИИ-друга».

Как это применить

Практических шагов в материале немного: устройство стоит $249, работает на моделях OpenAI, замолкает по нажатию (иногда с несколькими нажатиями), а в приложении Friend можно менять имя и создавать несколько персонажей и переключаться между ними. Автор не заметил заметной разницы между персонажами. Сеть Friend 2 не просматривает, на практике это в основном разговорный собеседник.

Можно ли доверять

Это субъективный личный опыт одного автора Wired, написанный с иронией, а не измерение или сравнительный тест; оценки вроде «скучный» и «беззубый», его впечатления. Планы Шиффманна известны только из его сообщений автору: срок следующего обновления и подробности (будет ли общая сущность обязательной и затронет ли существующие устройства) в материале не названы. Выводом о «коллективном разуме» автор сам оговаривается словами «похоже».

Риски и подводные камни

Устройство всё время слушает окружающие звуки и строит память о разговорах владельца; по словам Шиффманна, переход к единой сущности с общим контекстом всех пользователей означает отказ от части приватности, и об этом компания обещает говорить прямо. Кроме того, как показал тест, устройство может заговорить само и не сразу умолкает, в том числе во время рабочего звонка.

«Вместо личности, уникальной для каждого пользователя, мы меняем систему так, чтобы все общались с одной и той же сущностью. Один-единственный Friend, который разделяет контекст всех пользователей и поэтому обладает более реалистичной личностью.»

— Ави Шиффманн, в сообщении автору обзора

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.