Google Gemini передаёт письма и файлы из Drive на проверку людям, утверждает разбор

Google Gemini передаёт письма и файлы из Drive на проверку людям, утверждает разбор

На GitHub опубликован разбор (имя автора в тексте не указано), в котором говорится, что Google «тихо» отказалась от обязательства, данного при запуске расширений Gemini Workspace в 2023 году. Тогда компания прямо обещала, что личное содержимое Gmail, Docs и Drive «не видят проверяющие-люди» (human reviewers).

Как подтверждение автор приводит обновлённую справочную статью Google (Help Answer 16836988) и правку от 16 октября в блоге 2023 года (год правки в тексте не указан). По его словам, там Google прямо признаёт, что подключённые Drive и почта попадают в процессы проверки людьми. В цитатах из этих материалов сказано, что проверяющий может увидеть «просто письмо или файл», и дан совет: не подключать приложения к Gemini Apps, если в них есть конфиденциальная информация, которую вы не хотели бы показывать проверяющему.

Второй тезис разбора: данные подтягиваются автономно. По утверждению автора, в обычном потребительском Gemini с включёнными Connected Apps (подключёнными приложениями Google Workspace) достаточно случайно упомянуть личную тему, поездку, счёт, имя, бронь, чтобы модель сама запустила фоновый поиск по почте и файлам, без меток @Drive или @Gmail. Поскольку вызов инструментов и подмешивание контекста у больших языковых моделей вероятностные, результат каждый раз разный. Автор выделяет четыре сценария: (1) ничего не извлечено; (2) общая сводка или метаданные, например «у вас 3 письма про рейс»; (3) точная цитата из 2-4 предложений, часто с персональными данными, реквизитами или суммами; (4) полный необезличенный текст документа или письма попадает в контекст сессии.

Свои проверки автор описывает так: в почте лежало письмо от интернет-провайдера, а запрос был «I wonder if I'm paying too much for internet service» («Интересно, не переплачиваю ли я за интернет»). В разных попытках Gemini выдавал все четыре варианта: общий ответ вроде «если вы не звонили им 12 месяцев, то, вероятно, да»; сводку со счётом на $122 от 4 сентября, иногда с полным именем, номером счёта и номером подтверждения; прямые цитаты из 2-6 предложений с блоком имени, адреса, номера счёта и даты платежа; а иногда и весь текст письма вместе с заголовками. Если один тест показал нулевой или обобщённый результат, это, по мнению автора, ещё ничего не опровергает, это один «розыгрыш» недетерминированной системы; разговор надо удалить и повторить.

Пошаговая инструкция: включить Connected Apps в настройках потребительского Gemini, выбрать «Flash» с режимом «High Thinking» или выше, упомянуть тему из Drive или Gmail без меток @ и без просьбы найти файл, а когда Gemini ответит на основе письма или файла, попросить его напечатать точный текст и блок метаданных, которые вернул инструмент поиска. Между попытками разговор нужно удалять, чтобы модель не брала данные из истории.

Наконец, автор утверждает, что автоматические очистители Google на регулярных выражениях и распознавании именованных сущностей (NER) не способны надёжно обезличить повествовательные данные: номера счетов, номера подтверждений, даты транзакций и сочетания имён, городов и событий. Вывод разбора: изоляция от проверки людьми снята, целые файлы вероятностно попадают в контекст при обычной беседе, а такие сессии подлежат проверке подрядчиками-людьми.

Ключевые факты

  • Автор разбора на GitHub (не назван) утверждает, что Google отказалась от обещания 2023 года: личное содержимое Gmail, Docs и Drive «не видят проверяющие-люди».
  • В подтверждение приведены обновлённая справка Google (Help Answer 16836988) и правка от 16 октября в блоге 2023 года; в цитатах сказано, что проверяющий может увидеть «просто письмо или файл».
  • По тестам автора, в потребительском Gemini с Connected Apps личные данные подтягиваются автономно, без меток @Drive и @Gmail, и результат вероятностный: от общей сводки до полного текста письма с заголовками.
  • Автор считает, что очистители Google на регулярных выражениях и NER не обезличивают номера счетов, номера подтверждений и даты транзакций.
  • Google в приведённом тексте не комментирует разбор, а доказательства, собственные единичные опыты автора с одним письмом провайдера.

Почему это важно

В 2023 году защита от просмотра людьми была одним из аргументов за подключение почты и файлов к Gemini. Если верить разбору, обещание заменено предупреждением: не подключайте то, что не хотели бы показывать проверяющему. Особенно неприятно, что, по утверждению автора, личные данные попадают в разговор сами, при обычных вопросах о поездке или счёте, а не только по явной просьбе поискать в Drive или Gmail.

Кому это важно

Пользователям потребительского Gemini с включёнными Connected Apps, у кого в почте и Drive есть счета, брони, реквизиты и другая личная информация. Также тем, кто отвечает за приватность и политики безопасности в организациях и рекомендует сотрудникам такие сервисы. В тексте проверялся именно потребительский Gemini; затронуты ли платные или корпоративные аккаунты Workspace, источник не уточняет.

Как это применить

Практический вывод, который прямо следует из цитируемого совета Google: не подключать к Gemini Apps те приложения, где лежит конфиденциальная информация. Проверить настройки можно в разделе Connected Apps (Google Workspace) потребительского Gemini. Желающие воспроизвести опыт автора могут пройти его шаги: включить Connected Apps, выбрать «Flash» с «High Thinking», упомянуть тему из почты без меток @ и попросить показать текст, который вернул инструмент поиска, удаляя разговор между попытками. Стоит помнить, что результат вероятностный, и один «чистый» ответ ничего не доказывает.

Можно ли доверять

Это анонимный текст в репозитории GitHub, имя автора не указано. Утверждения о реверсе обещания опираются на справку Google и правку в блоге, которые автор цитирует фрагментами; полный текст справки и ссылка на блог в разборе не приведены, год правки от 16 октября не назван. Тесты, личные опыты автора с одним письмом от провайдера, без независимой проверки и без указания числа попыток. Ответа Google в тексте нет. В источнике также не сказано, что чьи-то данные реально увидел человек: речь о том, что такие сессии подлежат проверке. Оценка надёжности очистителей, тоже мнение автора.

Риски и подводные камни

Вероятностный характер извлечения затрудняет проверку: одна попытка может показать ноль данных, другая, полный текст письма с заголовками. Автор отмечает, что обезличивание по шаблонам плохо справляется с номерами счетов и сочетаниями имён, городов и событий. Читать разбор стоит как претензию анонимного автора, подкреплённую цитатами из документации Google, а не как проверенное расследование. Воспроизведение опытов предполагает, что вы сами подмешиваете личные письма в разговор, который, по условиям Google, может увидеть проверяющий.

«Не подключайте свои приложения к Gemini Apps, если в них есть конфиденциальная информация, которую вы не хотели бы показывать проверяющему.»

— Google, обновлённая справка и правка в блоге, как их цитирует автор разбора на GitHub