Британское издание The Guardian сообщает, что алгоритмы для таргетирования рекламы соцсети Facebook автоматически пометили 65 тысяч россиян как заинтересованных в измене Родине.
В Facebook в свою очередь отметили, что имелась в виду госизмена в историческом контексте. Позже эту категорию, поскольку она совпадает с уголовной статьей, убрали. Хотя увидеть тех, к чьим интересам соцсеть отнесла измену Родине, не могли обычные пользователи, доступ к инструменту был открыт рекламодателям, которые могли получить в том числе и IP-адреса потенциальных изменников.
Это уже не первый раз, когда алгоритмы соцсети, анализирующие профили пользователей, в том числе с целью определить их политические взгляды и ориентацию, а затем предоставляющие полученные данные рекламодателям, становятся объектом критики за вмешательство в личную жизнь и слабую защиту пользовательских данных.
Источник материала - Интерфакс.
Оригинал статьи The Guardian (на английском) .
* * *
В этом материале наиболее интересно даже не само число граждан, помеченных фейсбуком, как "interested in treason" - это число мы можем субъективно оценить по любым политическим дискуссиям в рунете.
Интересно то, что Фейсбук (внезапно, оказывается) изначально был рассчитан на поиск и вычисление таких людей. И алгоритм вычисления склонности к измене Родине, совершенно очевидно, к инструментам таргетирования рекламы никакого отношения не имеет. Это инструментарий, необходимый сугубо для спецслужб, ими же заказанный и эксплуатируемый.
Задуманный сперва, как простой измеритель общественных настроений, он в дальнейшем получил развитие в сторону возможностей выявлять с его помощью людей, открытых для вербовки разведкой, измерять количество социальных связей, находить узлы социальной ткани, пригодные для наиболее оптимального, широкого и легкого воздействия с целью повлиять на идеологические предпочтения людей.
Но есть вещи куда серьёзнее, чем просто разведка, которые сегодня может "большой брат".
Если машинная нейросеть способна по лингвистическому анализу комментариев и сферы интересов составить примерный портрет каждого пользователя, и собрать статистику на сотнях тысяч примеров, то у неё появляется возможность:
1) таргетировать вбрасываемые статьи и комментарии по месту и времени, чтобы вброшенный материал увидело максимальное количество людей из целевой группы.
2) программировать реакцию целевой группы на основе того, как представители этой группы реагировали в прошлом на различные реплики и темы других людей.
3) вызвать у целевой группы заранее запрограмированный гнев, страх, панику, желание, симпатию или антипатию этой группы к другой группе, а также вызвать взаимное сближение или вражду групп друг с другом, сместить нравственные ориентиры группы.
4) саботировать конструктивную работу группы, отвлекая её от полезных целей путём вброса статистически привлекательных для группы соблазнов, а также раздуванием искусственных конфликтов, делающих пространство группы непригодным для конструктивной работы.
5) провести PR-операцию прикрытия для внедряемого живого агента влияния, что продвинет агента в лидеры мнений в целевой группе.
С помощью таких проектов, осуществляемых против различных стратегически важных групп населения государства, можно проводить очень серьёзные операции в рамках гибридной войны.
Государству в целях информационной обороны необходимо создание собственной оборонительной профайлерской машинной нейросети, способной на основе анализа поведения информационных источников выявлять за ними атакующую машинную нейросеть противника.
Разумеется, нас в некоторой степени спасает тот факт, что интернет в целом, и социальные сети, в частности, имеют ограниченный ресурс влияния на нашу жизнь и наш образ мышления. Мы выходим на улицу, где в оффлайне нас ждут хорошая погода, уютные улицы, природа, друзья, увлечения.
Но недооценивать этот инструмент нельзя.
* * *
В качестве индивидуальной оборонительной меры настоятельно рекомендую:
- внимательно относитесь к любым данным, публикуемым вами в сеть, в том числе и в личную переписку (Фейсбук, например, мало того, что кормит приватные данные юзеров своей нейросети, так еще и сливает их Украине). Размещая в сети личные данные, специально задумайтесь о том, как затруднить нейросетям сопоставление ваших персональных данных с вашими поисковыми запросами, письмами, статьями и комментариями.
- помните, что сегодня никакая действительно важная и ценная информация не приходит в виде хайпа, скандала, моды, PR-кампании, эмоционально заряженных материалов. Любой кипиш - свидетельство перехваченного управления или попытки его перехватить.
- все важные для вас проекты, в том числе и особенно(!)- ваши рабочие группы по выработке общественно значимых конструктивных изменений (если вы этим занимаетесь) должны проходить СТРОГО в закрытом и постоянно модерируемом режиме. В ЛЮБОЕ публичное пространство, обсуждающее жизненно важные вопросы, быстро внедряются нейролингвистические боты, потому что они находятся на боевом дежурстве и постоянно сканируют сеть на предмет таких обсуждений.
- любая общественная инициатива, высказанная публично, будет подвергаться попыткам саботажа, будьте к этому готовы. Причем, судя по тому, что саботажу подвергаются как про- так и контр-государственные инициативы без разбора, этот саботаж не имеет внутрироссийской политической ангажированности, а имеет целью срыв общественного диалога в России в принципе, и нагнетание вместо него общего психоза и атмосферы взаимного недоверия всех ко всем.
- контролируйте, насколько можете, собственные слабости и соблазны, так как через них обязательно будут пытаться управлять вашим поведением. Членов ваших пабликов, замеченных в резкой перемене поведения и мнений не стесняйтесь вызывать на откровенный разговор и исключать из сообщества в случае отказа.
- при появлении в вашем поле зрения подозрительно ведущего себя источника информации (склонного вбрасывать спорные материалы, троллить, разжигать вражду), внимательно проанализируйте его режим дня по датировкам его статей и комментариев. Боты не ходят на работу и не спят ночью, поэтому распознать бота можно по неадекватно большому времени, проводимому им на ресурсе каждый день. Вместе с тем, имейте в виду, что бот вбрасывает свои наиболее спорные материалы и реплики именно в расчетное время максимального охвата аудитории.
- если вы имеете модераторские или административные права, не стесняйтесь блокировать пользователей, похожих по поведению на нейролингвистических ботов. Даже если окажется, что это был не бот, а просто не совсем адекватный человек, хуже сообществу от его удаления точно не станет.
- обучитесь навыкам профайлинга, если ведите профайлерскую работу, если можете.
Бдите.
- - -
Репост в патриотические паблики приветствуется.
