Колонка The Verge: Apple и Google не вправе менять, что считать «записью»

Колонка The Verge (автор в тексте не назван) начинается с наблюдения: раньше про устройство с микрофоном или камерой можно было сказать, что оно либо записывает, либо нет. Микрофон улавливает звук, камера снимает изображение, данные сохраняются на устройстве, иногда уходят в облако, и такой «запечатлённый миг» считался записью. Теперь, пишет автор, компании с ИИ-оборудованием хотят, чтобы мы согласились: постоянно слушающие и регулярно пересказывающие увиденное устройства записью не являются.

Первый пример, репортаж Марка Гурмана (Mark Gurman) из Bloomberg, вышедший «на прошлой неделе»: Apple, по его данным, работает над камерой для умного дома, которая не сохраняет видео. Вместо этого ИИ по визуальным данным создаёт текстовые описания того, что происходит в доме. Предположительно, камера будет поддерживать распознавание лиц, но без видеозаписи. По словам Гурмана, похожим образом будут работать камеры в слухах о будущих AirPods. Apple слухи не комментирует.

Второй пример, функции Audio Intelligence в Apple Watch Series 12 и Apple Watch Ultra 4. Всего таких функций четыре, больше всего споров в сети вызвали две: Live Rewind делает расшифровку последних 15 секунд звука, а Siri Recap может составлять краткие сводки разговоров за день. Автор рассуждает по публичным заявлениям Apple и считает (это его вывод, а не слова компании), что Apple не видит здесь записи. Apple утверждает, что эти функции не сохраняют аудио: сырые данные удаляются после обработки в отдельном защищённом эксклаве на процессоре S11, а всё, что уходит в облако, проходит через private cloud compute (закрытые облачные вычисления Apple) и недоступно ни Apple, ни третьим лицам.

Третий пример, Google. Сандип Варайч (Sandeep Waraich), старший директор Google по носимым устройствам, в разговоре с The Verge сказал, что компания тоже обдумывает такую идею. Что если камеры в умных очках не будут записывать данные: очки обрабатывали бы картинку вокруг с помощью ИИ, но не сохраняли бы кадры. Тогда, по словам Варайча, камера могла бы «просто» быть датчиком изображения.

Автор ставит под сомнение логику «записью считается только то, что сохранено и доступно для просмотра». Разве текстовые расшифровки, которые создаёт камера или часы, не сохранены и не доступны для просмотра? Или, пытаясь сделать ИИ-устройства приемлемее, компании рассчитывают на то, что именно можно истребовать в суде?

Дальше автор называет несколько причин, почему это не спор о словах. Во-первых, новые устройства требуют от владельца быть более активным хранителем чужой приватности: мы живём в местах с разными правилами, от ресторана и театра до туалета. Во-вторых, нет общепонятных сигналов. Очки Meta (Ray-Ban Meta) показывают запись видео белым пульсирующим индикатором приватности, а универсальный цвет индикатора записи, красный, так что человек, не искушённый в технике, может не понять белый свет; к тому же его легко скрыть чёлкой или не заметить в яркий солнечный день. Обязанности подавать такой сигнал у других производителей нет, а у ИИ-кольца или кулона, которые пишут звук или видео, света может не быть вовсе. В-третьих, устройства, которые могут записывать, всё больше похожи на те, что не могут: Oura Ring без микрофона выглядит как Vocci Ring с микрофоном, и оба похожи на обычные кольца. Очки с камерой, не записывающей видео, будет не отличить от очков, которые записывают.

По мнению автора, дискуссия о слежке сейчас сосредоточена на железе, и кажется, будто избавление от камер решает проблему; это не так, хотя злоупотреблять технологией становится труднее. Неприятно людям, по его мнению, не то, что есть камера или микрофон, а то, что сохранённый фрагмент тебя может оказаться на чужом устройстве без знания, как его используют. Чтобы ИИ был по-настоящему личным, как это видит Big Tech, ему нужно знать о вас и ваших близких многое, а значит, «помнить», то есть в каком-то смысле записывать жизнь. Стимулы компаний очевидны, а что получает общество, неясно. Эти соображения вскоре дойдут до умного дома, телевизоров, ноутбуков, планшетов и наушников. Итог: нужно прийти к общественному консенсусу о том, что считать записью и кто, если вообще кто-то, вправе менять это определение.

Ключевые факты

По сообщению Марка Гурмана (Bloomberg), Apple работает над камерой для умного дома, которая не сохраняет видео, а ИИ превращает картинку в текстовые описания; Apple слухи не комментирует.
В Audio Intelligence на Apple Watch Series 12 и Ultra 4 функция Live Rewind расшифровывает последние 15 секунд звука, Siri Recap составляет сводки разговоров за день; по заявлению Apple, аудио не сохраняется, сырые данные удаляются в эксклаве процессора S11.
Сандип Варайч из Google сказал The Verge, что компания обдумывает камеры в умных очках, которые не записывают данные и могли бы «просто» быть датчиком изображения.
Автор указывает на путаницу: белый индикатор у очков Meta непонятен многим (универсальный цвет, красный), а у ИИ-кольца или кулона света может не быть вовсе.
Вывод колонки: нужен общественный консенсус о том, что считается записью и кто вправе менять это определение.

Почему это важно

Спор идёт о том, что считать записью, когда устройство постоянно слушает и смотрит, но хранит только сгенерированный ИИ текст. От определения зависит, как люди воспринимают такие устройства рядом с собой. Автор считает, что в игру вступают сразу несколько понятий: право распоряжаться своими данными, ответственность владельца гаджета за чужую приватность и то, что именно сохраняется о человеке на чужом устройстве. Он полагает, что то, что ИИ-гаджеты запомнят, перепишет культуру, поэтому определение не должны менять в одностороннем порядке.

Кому это важно

Тем, кто носит или планирует покупать умные часы, очки, кольца и камеры для дома, а также людям, которые оказываются рядом с такими устройствами. Автор отмечает, что сейчас всё это заметнее всего в телефонах и носимой электронике, но скоро придёт в умный дом, телевизоры, ноутбуки, планшеты и наушники. Тема касается и производителей, которые выбирают, как обозначать работу камеры и микрофона.

Как это применить

Прямых инструкций в колонке нет. Практический вывод из неё такой: слова «не сохраняет видео» или «не сохраняет аудио» ещё не отвечают на вопрос, остаётся ли о вас текстовое описание. Стоит спрашивать производителя, что именно хранится (сырые данные, расшифровки, сводки), где и как долго. Помнить, что по автору, белый индикатор очков Meta означает запись видео, а у других устройств сигнала может не быть. Цены и сроки выхода упомянутых новинок в источнике не указаны.

Можно ли доверять

Это авторская колонка с аргументацией, а не расследование; автор в тексте не назван. Сведения о камере Apple и о камерах в будущих AirPods, это слухи в пересказе репортажа Гурмана, Apple их не подтверждает. Описание защиты Audio Intelligence дано по публичным заявлениям Apple в изложении автора, а вывод, что Apple не считает это записью, его собственное предположение. Слова Варайча приведены в пересказе автора, продукта у Google пока нет, идея лишь обдумывается. Юридического анализа и данных опросов в колонке нет.

Риски и подводные камни

Автор называет несколько рисков. Текстовые расшифровки и описания, возможно, тоже сохранены и доступны для просмотра, то есть фактически остаются записью. Нет общепонятных сигналов: белый индикатор Meta легко не заметить или не понять, у ИИ-кольца или кулона света может не быть. Записывающие и не записывающие устройства внешне всё труднее различить, как кольца Oura Ring (без микрофона) и Vocci Ring (с микрофоном). Наконец, автор предупреждает, что для по-настоящему личного ИИ компании заинтересованы собирать как можно больше данных о человеке и его окружении, а что получает взамен общество, остаётся неясным.

«Именно поэтому нам нужно прийти к общественному консенсусу о том, что считать записью, и кто, если вообще кто-то, вправе менять это определение.»

— автор колонки The Verge

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.