Google DeepMind и власти Сингапура создали на Gemma защиту от мошенников на смартфоне
Google DeepMind и Агентство правительственных технологий Сингапура (GovTech) в рамках Национального партнёрства в области ИИ с правительством Сингапура представили модель для обнаружения мошенничества, работающую на самом устройстве. Модель оптимизирована для обычных смартфонов в Сингапуре. Работа показана на Singapore International Cyber Week (SICW 2026).
Проблема, по данным анонса: мошенничество составляет более половины зарегистрированных в Сингапуре преступлений и с 2019 года привело к потерям свыше 4 млрд сингапурских долларов. Тактика сместилась от простого фишинга к сложной социальной инженерии, когда преступники убедительно общаются с жертвой и только потом просят денег. На такие схемы теперь приходится до 80% всех потерь.
Техническая основа, лёгкая модель Gemma, дообученная на локальных мошеннических переписках: от выдачи себя за госучреждения, банки и местных публичных лиц до актуальных региональных схем. Это нужно, чтобы модель отличала безобидную болтовню от настоящей манипуляции: универсальные модели, как сказано в анонсе, хуже справляются с локальными приёмами обмана.
Ключевая идея, анализ на устройстве. Обычно угрозы ищут серверным сканированием сообщений в облаке, но многие мессенджеры используют сквозное шифрование, и платформа не может заглянуть в личные переписки. Поэтому анализ перенесли на телефон. Заметив манипулятивные паттерны, модель показывает на устройстве предупреждение в реальном времени: остановиться и проявить осторожность, прежде чем сообщать чувствительные данные или переводить деньги.
Чтобы не разряжать батарею, используется двухступенчатый конвейер. Первая ступень, лёгкий классификатор, который с минимальным расходом энергии просматривает входящие сообщения и отлавливает потенциальные угрозы. Вторая, контекстная оценка дообученной Gemma, которая анализирует более крупный фрагмент переписки, чтобы подтвердить угрозу или отбросить ложную тревогу.
Разработчики подчёркивают три элемента управления рисками. Первый: дообучение шло в управляемой и поддерживаемой GovTech среде GCP, изолирующей обучающие данные. Второй: в обучении строго исключены личные и персональные данные, использовались обезличенные наборы из сообщений о мошенничестве и разведывательных лент об угрозах. Третий: модель проверяли на синтетических диалогах и локальных корпусах, чтобы охватить разные категории мошенничества и меняющиеся приёмы выдачи себя за другого.
В финале авторы заявляют, что проект показывает: защитный ИИ на устройстве не требует жертвовать ни безопасностью, ни приватностью, а мессенджеры и производители операционных систем могут напрямую встраивать такие лёгкие модели.
Ключевые факты
- Google DeepMind и GovTech (Сингапур) представили на SICW 2026 модель обнаружения мошенничества, работающую на смартфоне и оптимизированную под обычные телефоны в Сингапуре.
- В основе, лёгкая Gemma, дообученная на локальных мошеннических переписках: подделка госучреждений, банков, известных лиц и региональные схемы.
- Двухступенчатый конвейер: сначала лёгкий классификатор с малым расходом энергии, затем контекстная оценка дообученной Gemma, подтверждающая угрозу или снимающая ложную тревогу.
- Переписка анализируется на устройстве, а не сканируется в облаке; при угрозе пользователю показывают предупреждение в реальном времени.
- Обучение шло в изолированной среде GCP под управлением GovTech на обезличенных данных без персональной информации; цифр точности в анонсе нет.
Почему это важно
Мошенничество в Сингапуре, более половины зарегистрированных преступлений и свыше 4 млрд сингапурских долларов потерь с 2019 года, причём до 80% потерь дают сложные схемы социальной инженерии. Классическая защита опирается на серверное сканирование, а сквозное шифрование в мессенджерах такой анализ исключает. Перенос проверки на телефон, попытка совместить защиту от обмана с приватностью переписки.
Кому это важно
Прежде всего пользователям мессенджеров и регуляторам, которые ищут способ бороться с мошенничеством, не ломая шифрование. Авторы указывают, что платформы обмена сообщениями и производители операционных систем могут напрямую встраивать такие лёгкие модели. Интересно и разработчикам локальных моделей: пример дообучения небольшой Gemma на региональных данных под ограничения по батарее.
Как это применить
Прямого инструмента для скачивания в анонсе нет: дата выпуска, планы раскрытия для публики и перечень приложений или платформ, которые получат модель, не названы. Практически описана схема, которую можно повторить как подход: дешёвый классификатор на первой ступени, более сильная локальная модель на второй, предупреждение пользователю вместо блокировки, обучение на обезличенных данных в изолированной среде.
Можно ли доверять
Источник, анонс самих Google DeepMind и сингапурского GovTech, то есть материал разработчиков, не независимая проверка. В тексте не приведены показатели точности, доля ложных срабатываний, задержки и расход батареи для обеих ступеней, не указаны версия и размер Gemma. Заявления о конфиденциальности и изоляции данных, слова авторов без внешнего аудита в этом материале.
Риски и подводные камни
Без метрик неизвестно, как часто модель пропускает мошенничество или ложно тревожит пользователя; вторая ступень как раз введена, чтобы отсеивать ложные срабатывания, но результатов не показано. Модель дообучена на локальных схемах, поэтому перенос на другие страны потребует собственных данных. Анонс описывает предупреждение пользователю, а не блокировку сообщений, так что итог зависит от реакции человека.