|
Как Путин может внедрить российские «духовные и моральные ценности» в автомобили с искусственным интеллектом (ИИ) и почему некоторые беспокоятся об этом
Lance Eliot Contributor Feb 5, 2020
Президент России Владимир Путин поддерживает специальное программное обеспечение, которое будет внедрять российские духовные и моральные ценности в электронные устройства и компьютеры. GETTY IMAGES
Согласно недавним новостным сообщениям о России, [в этой стране] в ближайшее время, в электронику, такую как мобильные телефоны, телевизоры, ноутбуки и потенциально любые [связанные с интернетом] устройства IoT [Internet of Things], будет установлено санкционированное российским правительством программное обеспечение, которое создаст такое положение когда системы будут действовать в соответствии с российскими «духовными и моральными ценностями» (неопределенный термин, который, как это описано далее в настоящем тексте, сам по себе еще не сформулирован).
Президент России Путин, в прошлом году подписал новый закон, который обязывает, с этого года, устанавливать на все подобные электронные устройства специально подготовленное российское программное обеспечение. Таким образом, все эти системы впредь будут поставляться с предварительно установленным программным обеспечением предназначенным для воплощения в жизнь российских духовных и моральных ценностей.
Директива Федеральной антимонопольной службы России не разъясняет, что на самом деле должно делать это специальное программное обеспечение (вообще ничего не написано кроме того, что оно должно внедрить российские духовные и моральные ценности в электронное устройство).
Кто-то откопал список духовных и моральных ценностей, которые были провозглашены несколько лет назад в качестве целей для развития образования в Российской Федерации на период до 2025 года. Список духовных и моральных ценностей состоит из следующих элементов (обобщенно): (ссылка на оригинальный список выводит на статью по платной подписке, поэтому привожу список на английском с вариантами перевода, примечание переводчика, perevodika.ru)
-
Honor (честь, долг, уважение, честность, благородство, гордость и др.)
-
Justice (справедливость)
-
Conscience (совесть, высокая мораль)
-
Will (сила воли, энтузиазм)
-
In Good Faith (добросовестность, искренность, добросердечие)
-
Personal Dignity (личное достоинство)
-
Moral Duty To Self (моральный долг перед собой)
-
Moral Duty To Family (моральный долг перед семьей) и т.п.
На первый взгляд, эти предполагаемые «духовные и моральные ценности», безусловно, кажутся благонамеренными, и, наверное, трудно утверждать, что они посягают на гуманизм или каким-либо образом отрицательно сказываются на роде человеческом.
Тем не менее, некоторые исследователи полагают, что духовно-нравственные ценности (ДНЦ) поддерживаемые Россией, секьюритизируются, это означает, что список навязан России как вопрос национальной безопасности и станет реальной угрозой для неё - способом оправдать чрезвычайные меры, во имя этой национальной безопасности принимаемые.
Похоже, что по этой теме произошло разделение на два лагеря, которые по разному отвечают на следующие фундаментальные вопросы:
-
Будет ли это современное, нераскрытое пока, специальное программное обеспечение благим делом, которое каким-то образом подстегнет или высветит проявление лучших человеческих качеств, распространяя набор высоких духовных и моральных ценностей?
-
Или оно превратится в троянского коня, который сидит внутри вездесущих, используемых каждый день, электронных устройств, и будет являться, своего рода русским компьютерным вирусом контроля над мозгом и манипуляции сознанием, внедренным для принудительного совершения каких-нибудь жестоких и апокалиптических мерзостей?
Время покажет.
По-видимому, существует вероятность того, что настоящие автомобили с автоматическим управлением на основе ИИ (далее в тексте - автомобили с АУ/ИИ, примечание переводчика, perevodika.ru) попадут под действие нового закона.
Это, безусловно, кажется логичным и правдоподобным, поскольку настоящие автомобили с АУ/ИИ содержат множество видов интеллектуальных устройств и бортовых компьютерных систем и, таким образом, будут находиться в общих рамках систем, на которые ориентировано законодательство.
В этом смысле, даже если в целом беспилотные автомобили сами явно не обозначаются как оборудование, на которое должно устанавливаться программное обеспечение с ДМЦ, их компоненты попадают под эту категорию, и, следовательно, на эти элементы такое обеспечение будет установлено и то или иное их сочетание затем станет неотъемлемой частью обязательного “пакета ДМЦ”, установленного на автомобилях с АУ/ИИ в России.
Если принять не внушающий оптимизма взгляд, что специальное программное обеспечение для контроля за поведением соответствующим ДМЦ, используется в нежелательных целях, возникает вопрос о том, что именно может делать или вызывать это программное обеспечение в случае автомобилей с АУ/ИИ? (подробнее об интернационализации автомобилей с АУ/ИИ, смотрите ссылку здесь ).
И ещё один жизненно важный вопрос для размышления: каким образом внедрение российских программ защищающих «духовные и моральные ценности» может негативно повлиять на природу и появление настоящих автомобилей с АУ/ИИ в России ?
Давайте разберемся и посмотрим.
Уровни автомобилей с АУ/ИИ
Важно уточнить, что я имею в виду, когда имею в виду настоящие автомобили с АУ/ИИ.
Настоящие автомобили с АУ/ИИ - это те, в которых ИИ управляет автомобилем самостоятельно, и выполняет задания без какой бы то ни было помощи человека.
Эти транспортные средства без водителя считаются Уровнем 4 и Уровнем 5 , в то время как автомобиль, который требует участия водителя-человека для совместного вождения, обычно рассматривается на Уровне 2 или Уровнем 3 . Автомобили, которые требуют совместного решения задач вождения, описываются как полуавтономные и, как правило, содержат различные автоматизированные надстройки, которые называются ADAS (усовершенствованные системы помощи водителю).
Сегодня нет настоящей машины с АУ/ИИ 5-го уровня и мы даже не знаем удастся ли его создать и сколько на это потребуется времени.
Между тем, усилия по созданию автомобиля с АУ/ИИ 4-го уровня постепенно набирают обороты, прототипы проходят очень строгие публичные отборочные испытания на дорогах, хотя идут споры о том, нужно ли это тестирование само по себе (как указывают некоторые, все мы являемся подопытными морскими свинками в жизни или смерти в экспериментах которые проходят на наших трассах и хайвеях).
Так как полуавтономным автомобилям требуется водитель-человек, вождение этих типов автомобилей не будет заметно отличаться от вождения обычных транспортных средств, поэтому по этой теме - автомобили с АУ/ИИ, для них не будет чего то особенно нового (хотя, как вы увидите ниже, последующие пункты, как правило, применимы).
Для полуавтономных автомобилей важно, чтобы общественность была предупреждена о тревожном аспекте, который возник в последнее время, а именно о том, что, несмотря на тех людей-водителей, которые продолжают публиковать видео о том, как они засыпают за рулем автомобиля уровня 2 или уровня 3, мы все должны избегать заблуждения, полагая, что водитель может отвлекаться от задачи вождения во время управления полуавтономным автомобилем.
Вы несете ответственность за свои действия по вождению транспортного средства, независимо от того, сколько автоматизации может быть добавлено в автомобиль уровня 2 или 3.
Автомобили с АУ/ИИ и духовно-нравственные ценности
В настоящих автомобилях с АУ/ИИ 4-го и 5-го уровня человек-водитель задействован не будет.
Все находящиеся в таком автомобиле люди будут пассажирами.
Вести машину будет искусственный интеллект (ИИ).
Это, казалось бы, будет хорошим делом, позволяющим обществу стать более мобильным и, потенциально, преодолеть препятствия для мобильности, которые сегодня стоят перед теми, кто находится в неблагоприятном положении или барьеры, которые тем или иным образом могут рассматриваться как препятствующие мобильности (будь то из-за аспектов стоимости, доступности и так далее).
Эксперты единодушно предсказывают, что мы движемся к обществу “Мобильности - как сервиса” (Mobility-As-A-Service - MAAS) и что вся экономика будет преобразована в экономику, управляемую мобильностью.
Конечно, любой новый прорыв в сфере высоких технологий может иметь как положительные, так и потенциальные отрицательные последствия.
Практически всегда у технологических инноваций есть две стороны.
Давайте рассмотрим ключевые аспекты появления автомобилей с АУ/ИИ и попытаемся определить, каким образом обществу может быть нанесен ущерб, если утвержденная правительством часть программного обеспечения будет принудительно загружена в системы, реально обеспечивающие автоматическое вождение, (при этом будем исходить из предположения что это программное обеспечение преследует безнравственные цели).
Посадка и поездка в автомобиле с АУ/ИИ
Во-первых, пассажир, который садится в автомобиль с АУ/ИИ, должен будет указать, куда он хочет ехать.
Это кажется безобидным и не предполагает каких-либо неблагоприятных последствий.
Предположим, однако, что в системах автомобиля с АУ/ИИ установлен утвержденный правительством “пакет ДМЦ”, который контролирует - куда пассажир хочет ехать.
Кроме того, ожидается, что большинство автомобилей с АУ/ИИ будут иметь камеры , ориентированные вовнутрь , что позволит пассажирам проводить онлайн-сеансы, подобные скайпу, с коллегами в офисе, когда они ездят на работу в автомобиле без водителя.
Камера, обращенная внутрь, может легко распознавать лица и, следовательно, связывать человека, который едет в автомобиле с АУ/ИИ, с желаемым пунктом назначения.
Правительство могло бы в целом использовать такую информацию, чтобы стать Большим братом, отслеживая повседневные поездки людей в пределах своего государства.
Предполагается, что следующий после мониторинга шаг может состоять в отрицании того, что пассажир может быть доставлен в пункт назначения по своему выбору.
Другими словами, правительственное программное обеспечение может отклонить ваш запрос на поездку в пункт назначения X, и система ИИ откажется везти вас туда.
Что делает это особенно пугающим, так это то, что правительство может сделать это тотально, на широкой основе, а это означает, что независимо от того, в какую машину вы сядете, все они, вероятно, будут иметь встроенный правительственный “пакет ДМЦ” и, следовательно, все отклонят ваши попытки заставить их ехать к месту назначения.
В случае автомобилей, управляемых человеком, последовательное применение подобной навязанной доктрины намного сложнее .
Водитель-человек может либо не знать о том, что правительство пытается помешать вам добраться до места назначения, либо он может рискнуть и подвезти вас, несмотря на правительственную директиву.
Есть большая вероятность того, что с системой, основанной на искусственном интеллекте, вы не получите такой же свободы действий или некоторого пренебрежения правилами, как с водителем-человеком .
Кроме того, если вы сами - водитель автомобиля без АУ/ИИ, вы просто ездите туда, куда хотите, но в мире где все, потенциально, автомобили с АУ/ИИ, у вас не будет такой возможности - ездить самому (хотя надо иметь в виду, что пройдут еще десятилетия, прежде чем возникнет такая распространенность, и мы также не знаем, примет ли мир идею исключения всех машин, управляемых человеком).
“Глаза” видят все
Настоящие автомобили с АУ/ИИ имеют множество датчиков , которые используются для контроля обстановки на дороге.
В автомобиле с АУ/ИИ есть камеры, которые снимают видео происходящего вокруг автомобиля, есть радары, ультразвуковыми сенсоры , LIDAR и так далее.
Теоретически, этот сбор данных используется системой ИИ исключительно для управления автомобилем.
Что еще не установлено, так это то, что произойдет с этим огромным объемом данных в последствии.
Данные могут быть загружены в облако и помещены в огромную базу данных собираемых всем парком автомобилей без водителя. Облако будет содержать данные, которые могут быть легко проанализированы и использованы для различных целей.
Действительно, большинство автопроизводителей и технологических фирм, работающих с системами автоматического вождения, используют эти данные, чтобы сделать системы вождения ИИ более надежными.
Можно исследовать данные для крайних случаев редких ситуаций вождения, а затем использовать машинное обучение или глубокое обучение, чтобы определить способы борьбы с этими обстоятельствами, а затем отправить в парк автомобилей с самостоятельным вождением обновленную информацию о том, как улучшить справиться с движущей силой (этот процесс загрузки и выгрузки известен как электронная возможность OTA или беспроводной связи).
Ранее я указывал, что этот сбор сенсорных данных можно объединить, чтобы существенным образом отследить нашу повседневную жизнь (см. ссылку здесь ).
Как так?
Представьте себе то количество автомобилей, которые обычно ездят по вашей улице каждый день. Если каждый автомобиль будет настоящим автомобилем с АУ/ИИ, то он будет снимать с помощью видеокамер и других встроенных датчиков все, что обнаруживает, когда двигается по вашей улице.
Вот вы и играете в мяч с вашим ребенком, и в течение получаса, пока вы делаете это, по вашей улице проезжают, с различными целями (с либо в роуминге, для тех, кто ищет потенциальных пассажиров, которым может понадобиться поездка или что-то другое, так что пока они на пути к указанному месту назначения), множество автомобилей.
Вполне можно собрать воедино собранные сенсорные данные из множества автомобилей без водителя и составить общее представление о том, что происходило на этой и соседних улицах.
Предположительно, все ваши полчаса игры в мяч перед своим домом теперь будут зафиксированы навсегда и будут храниться в онлайн-базе данных.
Программное обеспечение ДМЦ, установленное правительством, может также находиться в облаке и иметь возможность доступа к полученным данным, или, возможно, автомобиль с АУ/ИИ может запросить загрузку фрагментов собранных данных, что позволит правительству знать, что ты делал или что ты сделал.
Следовательно, у Большого Брата появится еще одна техническая возможность [следить за тобой].
Доставить вас властям
Вот интересный пример другого варианта гнусного использования автомобиля с АУ/ИИ.
Вы только что ушли с работы на целый день и с нетерпением ждёте машины без водителя, которая отвезет вас в новый бар в городе, где вы встретитесь с друзьями, чтобы чего-нибудь выпить.
Предположим, что этот бар предназначен для людей определенного пола, расы или другого аспекта (аспект - свойство, по которому группа данных объединяется в один блок в информационно-поисковой системе, примечание переводчика, perevodika.ru).
Система управления ИИ, с загруженным правительством “пакетом ДМЦ”, может искать людей в обществе, которые соответствуют определенному полу, расе или какому-либо другому аспекту .
В зависимости от того, какой пункт назначения вы указали , и после использования внутренней камеры , загруженный правительством “пакет ДМЦ” делает вывод , что вы принадлежите к тому полу, расе или другому типу аспекта, который правительство пытается найти и каким-либо образом избавиться.
Таким образом, программное обеспечение ДМЦ инструктирует систему управления ИИ доставить вас в центр идеологической обработки местного правительства, а не отвезти вас в бар, который вы хотели посетить.
Вы можете не осознавать, что машина без водителя доставляет вас в центр идеологической обработки, и вы будете весьма удивлены и встревожены по прибытии.
На тот случай, если вы поймете что пункт назначения был изменен, загруженный правительством “пакет ДМЦ” может поступить хитрее и заставить автомобиль с АУ/ИИ секретно сообщить властям о маршруте или пункте назначения.
Таким образом, программное обеспечение ДМЦ может использовать возможности электронных коммуникаций автомобиля с АУ/ИИ для предварительного извещения властей, и они, чтобы задержать вас, могут или ждать вас в баре, или остановить машину с АУ/ИИ где-то на маршруте (подробности о том, что могут сделать национальные государства, см. в моем опубликованном материале здесь ).
Мороз по коже.
Выводы
Кое-кто может сказать, что вышеприведенные примеры представляют всё в слишком мрачном свете.
Но также можно утверждать, что у этих перспектив есть и более солнечная сторона.
Например, предположим, что разыскиваемый преступник решил использовать автомобиль без водителя.
Разве мы не были бы рады, что одобренный правительством “пакет ДМЦ” был внедрен в бортовые системы и, таким образом, был в состоянии обнаружить преступника и заставить автомобиль с АУ/ИИ передать его в руки полиции?
Вполне можно спорить о другой стороне монеты по каждому из упомянутых злонамеренных применений.
Другой путь, который нужно исследовать, - это хваленая и печально известная проблема вагонетки для автомобилей с искусственным интеллектом (см. Мое подробное обсуждение по ссылке здесь ).
Если коротко, то проблема вагонетки предполагает, что автомобиль с АУ/ИИ должен будет принимать решения о жизни или смерти, например, избегать ли ребенка на улице, врезаясь в дерево (возможно, причиняя вред или убивая пассажиров), или сбить ребенка. но спасти пассажиров автомобиля.
Представьте себе, что одобренный правительством “пакет ДМЦ”, сидящий внутри системы управления ИИ, может сделать с таким выбором решений (подробнее об этом см. ссылку здесь ).
Некоторые вздрагивают от самой идеи такого программного обеспечения для обеспечения соответствия ДМЦ, ориентированного на жизнь или смерть, в то время как другие утверждают, что имеет смысл иметь ПО со всеобъемлющим обязательным, одобренным общественностью алгоритмом принятия решений, а не индивидуальное ПО, которое могло бы быть произвольно установлено конкретным автопроизводителем или самим владельцем автомобиля.
В любом случае, похоже, что Россия может стать первым известным примером наличия и широкого внедрения государственного компонента «духовных и моральных ценностей», который устанавливается в российские электронные устройства, в том числе и в автомобили с АУ/ИИ (при этом, некоторые другие страны, пусть и более медленно и нерешительно, но идут по тому же пути ).
Возможно, это послужит сигналом тревоги для тех, кто считает, при создании настоящих автомобилей с АУ/ИИ, нет нужды ни в специалистах по этике, ни в общественных оценках.
Требуется целая деревня, чтобы вывести автомобили без водителя на наши дороги (перефраз пословицы: Нужна целая деревня, чтобы вырастить одного ребёнка, примечание переводчика, perevodika.ru).
Эта Деревня должна подумать о том, как духовные и моральные ценности будут проникать и влиять на все общество, когда появятся автомобили с ИИ.
Спасет ли это наши души или принесет их в жертву?
Время покажет.
Источник: perevodika.ru.
Рейтинг публикации:
|
