Искусственный интеллект как инструмент борьбы за сознание людей
Широкое применение алгоритмов искусственного интеллекта (ИИ) на просторах «Всемирной паутины» стало объективным следствием ускорившейся в последние годы цифровизации общества, ведущей к стиранию национальных границ и размыванию этнокультурных особенностей человека в виртуальном пространстве. Огромные технологические возможности ИИ-систем органично встроились в ставшие уже традиционными цифровые сервисы (социальные сети, поисковики, агрегаторы новостей, маркетплейсы и пр.), существенно расширив инструментарий ИКТ по воздействию на сознание людей, влиянию на экономические процессы в масштабах отдельно взятых стран, регионов и даже континентов. Сегодня ИИ в глобальном цифровом пространстве — это, по сути, никем толком не регулируемый инструмент (причем чрезвычайно эффективный) геополитического и экономического влияния владельцев цифровых платформ и сервисов, задающих современные потребительские, общественно-политические и социокультурные тренды.
В ноябре 2020 г. в журнале Национальной академии наук США американские ученые опубликовали результаты своего исследования (Adversarial vulnerabilities of human decision-making) о возможностях ИИ манипулировать сознанием человека при принятии решений. Если кратко, то «натренированная» должным образом ИИ-система способна выявлять «уязвимости» в мыслительных процессах принятия решений и, воздействуя на них, подталкивать человека к определенному выбору (на данном этапе эффективность манипуляционных алгоритмов в лабораторных тестах составляет около 70%). Причем, что немаловажно, такой выбор будет восприниматься человеком как исключительно свой, базирующийся на принципе «свободной воли», а не навязанный со стороны хитрой машины.
К слову, в глобальных электронных СМИ и агрегаторах новостей подобные ИИ-системы используются для фильтрации, обработки и классификации информации (а с недавних пор избирательное «умное» цензурирование активно применяется и в отношении информационного контента в соцсетях), таргетированному доведению ее до конечного потребителя, как исходя из его личных предпочтений, так и с учетом редакционной политики цифровой платформы или издания. При этом в соцсетях основной фокус делается на оценке поведения и предпочтений пользователя в целях проактивного продвижения товаров и услуг «заказчиков», зачастую также обернутых в определенные социокультурные и политические установки. Большинство людей даже не догадывается, что информация из их аккаунтов используется с целью совершенствования алгоритмов ИИ по воздействию на их же поведенческую модель.
Взять хотя бы любимый (до момента блокировки) сервис бывшего президента США Д. Трампа — Twitter. В нем ИИ выполняет сразу две функции: а) подбирает наиболее интересные посты, основываясь на предыдущей активности пользователя (та самая проактивная функция); б) модерирует (эффективнее многих цифровых СМИ) недостоверный контент («фейкньюс») в русле критериев корпоративной политики, нацеленных якобы на поддержание высокой «чистоты», то есть качества информационного фона.
Однако применение ИИ в глобальном цифровом информационном пространстве не ограничивается только новостными ресурсами и соцсетями. Стоит также упомянуть самый распространенный в мире поисковик Google американской компании Alphabet. В последние годы корпорация использует технологии ИИ для автоматического осмысления сложных поисковых запросов, оптимизации поисковой выдачи, включая «деранкинг» нежелательных источников информации и отдельных публикаций (характерный пример — искусственное занижение с конца 2017 г. вероятности появления в поисковике Google ссылок на ресурсы медиахолдинга «РТ») и развития «умной» системы рекомендаций на принадлежащих компании ресурсах, в частности, YouTube. Такой подход Alphabet и многих других транснациональных корпораций ведет к стремительной фрагментации международного информационного пространства в угоду сугубо коммерческим интересам или интересам государственно-частного партнерства (как долгосрочным, так и ситуативным). Формирование универсальной международной нормативно-правовой регуляторики или хотя бы неких общепринятых «правил игры» становится попросту невозможным. В качестве иллюстрации — шесть из семи самых дорогих компаний мира являются американскими и китайскими ИКТ-гигантами, активно разрабатывающие и использующие алгоритмы ИИ в своих цифровых платформах и сервисах (Microsoft, Amazon, Alphabet, Apple, Facebook, Alibaba и Tencent). Согласно данным ведущей немецкой статистической компании Statista, их суммарная капитализация по итогам 2020 г. превысила 6,5 трлн долл. Для сравнения: бюджет России в том же году составил около 1,7 трлн долл. США.
Различные «умные» цифровые платформы, СМИ и соцсети, нанизанные на общую нить — Интернет — один из реальных примеров тотальной глобализации, проникающей в глубинную структуру человеческого общества без какого-либо серьезного противодействия, если не считать таковым пока еще сохраняющиеся, но постепенно стирающиеся этнокультурные и языковые барьеры. На первый взгляд, глобальное цифровое информпространство — это то «поле» или «песочница» (выражаясь техническим сленгом), в рамках которого всем активным участникам процесса — национальным правительствам, научно-экспертным кругам и крупным компаниям — вполне по силам выработать и апробировать единообразные подходы по внедрению и использованию ИИ-систем. Однако на практике ситуация проявляет себя с точностью до наоборот. Интернет и обитающая в нем «цифра» — это не только «территория свободы», но и место столкновения западноцентричной модели применения ИИ (в основе лежит принцип беспрепятственного продвижения технологических решений и ноухау на глобальном рынке с минимально возможным уровнем регулирования) с остальным миром, роль выразителя интересов которого активно примеряет на себя Китай.
При сохранении динамики актуальных трендов, через каких-нибудь 3–5 лет значение ИИ для массовых цифровых платформ и глобального информпространства в целом станет поистине колоссальным. Сложные алгоритмические системы превратятся в полноценный инструмент экономического и геополитического противоборства между технологически развитыми странами и аффилированного с ними крупного бизнеса. В условиях сохраняющихся полярных подходов в международном сообществе к нормативно-правовому регулированию современных ИКТ, разработчики и операторы ИИ-систем будут пользоваться этой неопределенностью и регуляторным вакуумом. Они станут еще активнее коммерциализировать свои сервисы и платформы в виртуальной среде, пытаясь с помощью передовых технологий «выгрызать» доли глобального рынка у прямых конкурентов. При этом в борьбе за пользователей такой «цифры» у последних целенаправленно будут формироваться новые критерии оценки и восприятия информации, подталкивающие их к определенному заранее смоделированному «заказчиком» алгоритму действий (выбору). Новая среда окажет также влияние на культурный код человека и его поведенческие паттерны, что в конечном счете может привести к определенному «выравниванию» социума в разных частях света (сторонники глобализации будут рады) или приведения его к некому общему знаменателю — единообразному цифровому шаблону потребителя. Как представляется, такой сценарий — это уравнение со множеством неизвестных, решение которого грозит непредсказуемым и, что немаловажно, весьма опасным результатом.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Чтобы писать комментарии Вам необходимо зарегистрироваться либо войти на сайт под своим именем.
» Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации. Зарегистрируйтесь на портале чтобы оставлять комментарии
Материалы предназначены только для ознакомления и обсуждения. Все права на публикации принадлежат их авторам и первоисточникам. Администрация сайта может не разделять мнения авторов и не несет ответственность за авторские материалы и перепечатку с других сайтов. Ресурс может содержать материалы 16+
