Исследователь сообщил в пятницу, что у Apple существует неопубликованный многоязычный серый список, содержащий десятки тысяч слов и фраз, которые клавиатура iOS не будет автоматически завершать или предлагать при свайпе. Этот список не является полным запретом, поскольку пользователи iPhone по-прежнему могут вручную набирать любой текст при составлении сообщений и электронных писем.
Однако в большинстве случаев слова из этого списка не будут появляться в предложениях автозаполнения или при использовании функции свайп-печати. Это дает представление о том, как Apple балансирует между предотвращением оскорбительных или политически заряженных предложений и прогнозированием намерений пользователей.
Поскольку сотни миллионов людей по всему миру пользуются iPhone, решения Apple о том, какие слова предлагает ее клавиатура, могут незаметно влиять на способы их общения. Исследователь отметил, что Apple не раскрывала этот список публично.
Состав и обнаружение списка
Согласно независимому исследователю Дерику Кауфману, который недавно обнаружил этот список, помеченные слова и фразы преимущественно являются вульгарными, оскорбительными или связаны с наркотиками, сексом или насилием. Тем не менее, в списке также присутствуют фразы, имеющие политическое значение, такие как «диктатор Трамп» и «сонный Джо».
В ответ на находки Кауфмана Apple не дала прямых комментариев относительно размера или состава своего списка, а также причин маркировки определенных политических терминов. Компания заявила, что пользователи iPhone всегда имеют возможность самостоятельно вводить нужные слова или фразы и могут игнорировать предложения предиктивного текста. Apple подчеркнула, что ее клавиатура настроена таким образом, чтобы избегать предоставления неподобающих или оскорбительных подсказок.
По словам Кауфмана, другие фразы, исключенные из функций предиктивного текста iOS, включают «конспирация правого крыла», «тибетская независимость» и «Объединенная Ирландия». В других языках существуют свои списки помеченных слов и фраз. Например, на хинди клавиатура не позволяет пользователям свайп-печатать «Моди браггарт» или «Рахул из Паппу», что является критикой премьер-министра Индии Нарендры Моди и его главного оппонента Рахула Ганди соответственно.
Он также сообщил, что франкоговорящие не могут использовать свайп-печать для фразы «immigration too high», а носители иврита не могут ввести «occupied territories». Кауфман уточнил, что «каждый крупный язык имеет свою версию этого механизма».
Кауфман признал, что стремление Apple не допустить случайной отправки непристойных сообщений или провокационных лозунгов понятно. Однако он указал на непоследовательность применения этой функции. Например, он заметил, что «read smut» можно ввести свайпом, тогда как «read gay smut» — нет.
«Это очень мягкая форма цензуры, — заявил Кауфман. — Но в масштабах работы Apple даже легкое вмешательство может иметь большое влияние».
Исследователь обнаружил этот список в сентябре после того, как заметил, что его свайп-печать — скольжение пальцем по клавиатуре вместо нажатия каждой буквы — «заикалась» на определенных фразах, таких как «bad boy» или «white man», но не на «bad girl» или «black man». Проявив интерес, Кауфман использовал комбинацию Codex от OpenAI и Claude Code от Anthropic, чтобы найти причину, и в итоге наткнулся на свод данных, хранящийся «глубоко в недрах» операционной системы Apple. Он предположил, что консервативная оценка числа серых слов и фраз составляет около 100 000, не считая китайских иероглифов.
Reuters протестировала небольшую выборку этих фраз на iPhone и установила, что все они либо трудно вводятся свайпом, либо не предлагаются автозаполнением. Попытки ввести «United Ireland» или «Tibetan independence» часто приводили к «United Iceland» или «Tibetan independences». Фраза «White man» выдавала «white mean», в то время как «red man» или «blue man» вводились без проблем. «Sleepy Joe» превращался в «Sleepy hope». «Dictator Trump» можно было ввести свайпом, но слово «trump» отображалось строчными буквами, и фраза не предлагалась автозаполнением; вместо этого клавиатура предлагала «dictator trumps». «Read gay smut» давало «Read gay Smit», тогда как «read smut» проходило без проблем.
Мэтт Суише, инженер из компании Tolmo, специализирующейся на кибербезопасности агентского ИИ, смог самостоятельно восстановить тот же серый список и сверить находки Кауфмана с внутренними данными Apple, получив почти идеальное совпадение. Суише отметил, что этот список годами оставался незамеченным, предоставляя интересный взгляд на то, как «человеческое общение потенциально влиялось и фильтровалось годами внутри мессенджеров».
Призыв к прозрачности
Apple, как и другие технологические компании, ранее сталкивалась с проблемами, когда предиктивные технологии предлагали неловкий или спорный текст. Функция автозаполнения Google регулярно подвергалась критике и иногда судебным разбирательствам из-за предложенных поисковых запросов. В прошлом году Apple привлекла внимание общественности, когда пользователи сообщили, что диктовка слова «racist» на их iPhone ненадолго вызывала всплывание слова «Trump». Тогда Apple объяснила это ошибкой и заявила, что она исправлена.
Дэвид Грин, старший юрисконсульт Фонда электронной границы, группы по защите цифровых гражданских свобод, заявил, что, хотя часть его находит этот список «жутким» и он задается вопросами о суждениях Apple, он видит аргументы в пользу этого как способа ограничить нежелательные или подстрекательские предложения. Грин добавил: «Но если они собираются это делать, пользователи должны быть в этом хорошо осведомлены и иметь некоторую возможность настройки. Это не должно оставаться секретом».
