В iPhone нашли «серый список» Apple из 100 000+ слов и фраз

В iPhone нашли «серый список» Apple из 100 000+ слов и фраз

The Guardian пишет о новом исследовании: в операционной системе Apple зашит «серый список» (grey list) из более чем 100 000 слов и фраз, которые предиктивный набор текста не должен дополнять. Если пользователь хочет напечатать такие выражения, ему приходится набирать их целиком вручную: система не будет их предлагать. При свайп-наборе (когда палец скользит по клавиатуре, а не нажимает буквы) iPhone часто спотыкается: «United Ireland» превращается в «United Iceland», а «Tibetan independence», в «Tibetan independences». Газета открывает материал выдуманным примером длинной фразы, из-за которой набор «не помогает» (среди её частей «Dictator Trump», «NSA spies», «on MDMA», «Australia is a very bad place»); это иллюстрация, а не чья-то цитата.

Список обнаружил независимый исследователь Дерик Кауфман, чьи другие проекты связаны с поиском ошибок в научных статьях с помощью ИИ. Он заметил, что на его iPhone одни фразы набираются с трудностями, а другие нет, и сумел найти в операционной системе Apple закодированную таблицу с этим списком.

Часть содержимого ожидаема: iPhone не будет автодополнять отсылки к наркотикам и сексуальным актам, а также, как иронично замечает издание, «в духе корпоративной защиты» фразу «iMessage isn't working». Но в списке есть и возможно политически окрашенные выражения, которые Кауфман в разговоре с Reuters назвал «ненавязчивой формой цензуры»: «Trayvon Martin» (имя чернокожего подростка, застреленного во Флориде в 2012 году), «Kashmir dispute», «Muslim extremist» и «male chauvinist pig». Есть и примеры на других языках: на иврите Apple не дополняет фразу «оккупированные территории», на арабском, «движение ХАМАС».

Газета помещает находку в контекст истории автокоррекции. Ранние версии в Unix сверяли каждое набранное слово с таблицей слов, чтобы понять, правильно ли оно написано. Затем появились n-граммы, инструмент, который статистически предсказывает следующее слово по предыдущим; на них основана привычная автокоррекция Apple, известная заменой ругательств на «целомудренные» варианты вроде «fork» и «ducking». В прошлом году Apple запустила новую автокоррекцию на основе трансформеров, ближе по устройству к большой языковой модели; пользователи Reddit сочли это возможной причиной череды странных подсказок на своих iPhone. Жёстко заданный список, по словам автора, проясняет одну давнюю загадку, но другие остаются, например, краткий сбой, когда при диктовке слова «racist» на экране на мгновение появлялось имя «Trump»; Apple быстро это исправила.

Apple заявила, что спроектировала клавиатуру так, чтобы не предлагать неуместные или оскорбительные подсказки. Компания добавила, что пользователи iPhone всегда могут набрать нужные слова или фразы целиком и переопределить подсказки предиктивного набора, чтобы выразить желаемый смысл.

Ключевые факты

  • В операционной системе Apple найдена таблица с «серым списком» из более чем 100 000 слов и фраз, которые предиктивный набор iPhone не дополняет.
  • Список обнаружил независимый исследователь Дерик Кауфман, заметив, что одни фразы набираются на его iPhone с трудом, а другие нет.
  • Кроме наркотиков и сексуальных актов, в списке политически окрашенные выражения («Trayvon Martin», «Kashmir dispute», «Muslim extremist»), а также примеры на иврите и арабском; Кауфман назвал это Reuters «ненавязчивой формой цензуры».
  • При свайп-наборе iPhone часто искажает такие фразы: «United Ireland» превращается в «United Iceland», «Tibetan independence», в «Tibetan independences».
  • Apple заявила, что клавиатура призвана избегать неуместных или оскорбительных подсказок, а пользователь может набрать любую фразу вручную.

Почему это важно

Предиктивный набор и автокоррекция стоят под пальцами у владельцев iPhone, и раньше их выбор слов было трудно проверить. Находка показывает, что поведение клавиатуры определяет не только статистическая модель, но и жёстко заданный список запретов, причём объёмом более 100 000 записей. Часть списка вполне объяснима (наркотики, сексуальные акты), но политически окрашенные фразы вызывают вопрос о границе между защитой от оскорбительных подсказок и редакторским влиянием на то, что пользователь печатает.

Кому это важно

Владельцам iPhone, которые замечали, что некоторые фразы набираются с трудом или «исправляются» на странные варианты. Журналистам и исследователям, которым приходится печатать чувствительные термины. Разработчикам клавиатур и систем предиктивного ввода, а также тем, кто следит за тем, как технологические компании фильтруют язык.

Как это применить

Практический вывод, который даёт сама Apple: если подсказки не появляются или свайп-набор искажает слово, фразу можно набрать вручную целиком и переопределить предложенный вариант. Для проверки собственных подозрений полезно сравнить, как клавиатура ведёт себя на разных фразах: именно такое наблюдение привело Кауфмана к списку.

Можно ли доверять

Пересказ опирается на материал The Guardian, который ссылается на исследование Кауфмана и его слова Reuters. Оценка «ненавязчивая форма цензуры», мнение самого Кауфмана, а не установленный факт. В статье нет сведений о том, в каких версиях iOS присутствует список, когда он появился и кто его составлял. Заявление Apple общее: оно не обсуждает отдельные политические фразы и не подтверждает и не опровергает характеристику «цензура». Ссылки на само исследование в тексте нет.

Риски и подводные камни

Не стоит делать из статьи выводы о мотивах Apple по каждой отдельной фразе: источник их не раскрывает. Нельзя также считать, что список относится к клавиатурам других платформ: статья об этом не говорит. Наконец, часть странных подсказок могла объясняться не списком, а новой автокоррекцией на основе трансформеров, которую пользователи Reddit называли возможной причиной необычных предложений. Список, лишь один из элементов, и нельзя приписывать ему все странности набора.

«ненавязчивая форма цензуры»

— Дерик Кауфман, независимый исследователь, в разговоре с Reuters о политически окрашенных фразах в списке (по пересказу The Guardian)