Новая статья Саги Коэна «ИИ — следующий рубеж национальной безопасности, однако Израиль может потерять свои позиции» опубликована в старейшей израильской газете Haaretz.
* * *
Разработка национальной стратегии ИИ, включая его этические аспекты, имеет решающее значение для безопасности Израиля в будущем, говорится в исследовании, опубликованном на прошлой неделе Институтом исследований национальной безопасности (Institute for National Security Studies — INSS).
«Правильное управление сферой искусственного интеллекта в Израиле имеет большой потенциал для сохранения и улучшения национальной безопасности», — пишет доктор Лиран Антеби, научный сотрудник INSS, в исследовании, которое было подготовлено при содействии лучших экспертов страны из высокотехнологичной промышленности, оборонного ведомства, правительства и научных кругов.
Исследование под названием «Искусственный интеллект и национальная безопасность Израиля» начинается с предположения, что ИИ в конечном итоге будет иметь решающее значение во всем мире как с точки зрения экономики, так и безопасности, особенно если прогнозы о том, что возможности ИИ когда-нибудь превысят человеческие, окажутся верными.
«Искусственный интеллект создаст новую промышленную революцию величайшего размаха в истории», — уверена Антеби. И это, естественно, приведет к увеличению разрыва между странами с высокими технологическими возможностями и теми, которые остались позади. Она также утверждает, что безопасность Израиля требует разработки реальной политики в области ИИ.
В исследовании INSS подробно рассказывается о многочисленных военных применениях ИИ, как существующих, так и будущих. Одним из примеров являются автономные системы вооружений, такие как роботы и дроны, которые способны самостоятельно искать, идентифицировать и атаковать цели, практически без участия человека.
Но революция произойдет не только на поле боя, отмечается в исследовании. Другие примеры включают в себя интеллектуальные системы, способные обрабатывать огромное количество видеоматериалов для автономного определения целей; автономные транспортные средства; рои дронов; улучшенные системы логистики; технологии кибервойны и киберзащиты; планирование, принятие решений, управление и контроль; интерфейс мозг-машина (управление машинами и компьютерами с сигналами мозга человека).
Следовательно, утверждается в исследовании, Израиль должен определить ИИ как стратегическую цель. Чтобы Израиль в этом направлении не оказался в числе отстающих, лица, принимающие решения, должны ознакомиться с этой областью и разработать политику, которая позволит стране справиться с возникающей огромной конкуренцией со стороны других государств и сохранить свое конкурентное преимущество.
Основная рекомендация, данная в исследовании, — разработать национальную стратегию, а затем создать агентство для управления её реализацией на основе многолетнего плана, включающего распределение финансовых средств.
«Это важное поле не должно отдаваться в руки рыночным силам, — написала Антеби. — Израиль не может позволить себе откладывать разработку национальной стратегии, потому что неудача в этой области вполне может иметь серьезные последствия».
В последние годы были созданы два специальных комитета с целью разработки национальной стратегии и соответствующей политики в отношении ИИ. Первым руководила Орна Берри, а вторым — Исаак Бен-Исраэль и Эвиатар Матания. Однако предварительные выводы второго комитета были подвергнуты резкой критике со стороны ряда государственных органов после того, как были опубликованы в СМИ.
Антеби настаивает на важности создания оперативного агентства — Национальной дирекции по информационным технологиям, с особым упором на интеграцию ИИ в оборонное ведомство.
В исследовании отмечается, что многие страны — в первую очередь Китай, США и некоторые европейские государства — уже разработали национальные стратегии ИИ и выделили для них финансирование. В качестве одного из примеров Антеби привела Объединенный центр искусственного интеллекта, созданный министерством обороны США в 2018 году для координации усилий по разработке и применению систем ИИ в обороне.
В 2019 году президент США Дональд Трамп подписал указ об американской инициативе по ИИ, целью которой является продвижение технологий ИИ. Минобороны США заявило, что к 2023 году вложит в проекты в этой сфере $2 млрд.
В исследовании утверждается, что Израиль должен поощрять более широкую интеграцию возможностей ИИ в армию, другие службы безопасности и оборонную промышленность, в таких областях, как кибер-технологии, дроны и разведка.
«У Израиля есть сравнительные преимущества в технологических областях, среди прочего, в беспилотных транспортных средствах и кибертехнологиях, которые являются важными областями обороны. Интеграция их с ИИ в качестве мультипликатора оборонной силы может значительно помочь Израилю в сохранении и укреплении своей национальной безопасности, как с помощью военных средств, так и за счет других экономических и международных результатов», — говорится в документе.
В 2019 году президент США Дональд Трамп подписал указ об американской инициативе по ИИ, целью которой является продвижение технологий ИИ. Минобороны США заявило, что к 2023 году вложит в проекты в этой сфере $2 млрд.
В исследовании утверждается, что Израиль должен поощрять более широкую интеграцию возможностей ИИ в армию, другие службы безопасности и оборонную промышленность, в таких областях, как кибер-технологии, дроны и разведка.
Тем не менее армия и оборонное ведомство не успевают за изменениями в этой области. Это в первую очередь связано с небольшим объемом финансирования оборонного комплекса, предназначенным специально для ИИ, а также с трудностью удержания высококвалифицированного персонала из-за конкуренции со стороны частного сектора.
Более того, как отмечает Антеби, в оборонном ведомстве существует бюрократическое сопротивление быстрым технологическим изменениям — проблема, типичная для многих крупных организаций. Это очевидно из того, что она полагается на «унаследованные» системы, которые она использовала в течение многих лет. Такие системы очень сложно заменить.
Поэтому рекомендуется создать структурные модели, которые позволят оборонному ведомству идти в ногу с темпами изменений, что потребует от него большей гибкости.
В документе также прописана рекомендация вкладывать средства в обучение персонала и выделять средства, чтобы мотивировать талантливых людей оставаться работать в оборонном комплексе. Кроме того, необходимо обучать людей, не являющихся экспертами в области высоких технологий, чтобы обеспечить понимание и навыки работы с ИИ всех звеньев армейской цепочки командования.
Исследование Антеби раскрывает проблему, которая может стать неожиданностью для многих. В частности, оборонное ведомство почти не проводит независимых исследований и разработок, которые создают основу для будущих возможностей. Вместо этого оно полагается на технологии, разработанные коммерческими компаниями и академическими кругами.
В связи с этим оборонному истеблишменту рекомендовано инвестировать больше ресурсов в фундаментальные исследования в целом, и особенно в исследования и разработки в областях ИИ, где Израиль уже имеет конкурентное преимущество.
Еще одна рекомендация заключается в создании упорядоченной системы для мониторинга и анализа достижений различных игроков в области ИИ, и поощрения обмена информацией внутри оборонного ведомства.
Перспектива интеграции ИИ в оборонный истеблишмент, естественно, вызывает немало опасений. Все мы знакомы с ужасающими сценариями из научно-фантастических фильмов — умными системами, которые выходят из-под контроля и действуют по своим собственным представлениям. Это вряд ли произойдет в ближайшее время, но исследование действительно предостерегало от слишком быстрой интеграции ИИ в армию без какой-либо способности понимать систему и факторы, которые заставляют его принимать решения.
На примере полиции, а не армии, стало ясно, что существующие технологии распознавания лиц дискриминируют национальные, расовые и т. п. меньшинства. Очевидно, возникают очень тревожные сценарии, если интеллектуальное оружие или разведывательные системы будут запрограммированы с теми же предубеждениями.
В исследовании также обсуждались моральные дилеммы, присущие войне. Было отмечено, что некоторые специалисты считают, что ИИ сможет принимать более правильные и точные решения во время боя, поскольку на него не будут влиять страх, усталость или другие эмоции (например, ненависть), которые влияют на людей. Но другие утверждают, что без человеческих эмоций невозможно принимать правильные моральные решения относительно использования вооруженных сил, например, воздерживаться от нападения на гражданские цели и не применять непропорциональную силу против врага.
Таким образом, в исследовании рекомендовало, чтобы стандарты и механизм надзора были основаны на обеспечении безопасности, то есть на обеспечении того, чтобы любые разработанные инструменты ИИ соответствовали существующим нормам и принципам. По словам Антеби, это должно включать разработку этического кодекса использования ИИ оборонным ведомством.
Также необходимо сосредоточить исследования и разработки в области ИИ на инструментах, которые помогают людям, а не заменяют их, пока не будет доказана безопасность и надежность технологии.
Заключительным советом, данным в исследовании, стал призыв как можно скорее решить административные и юридические вопросы, связанные с использованием систем ИИ в обороне Израиля.
