Представьте себе, что вы потеряли дома ключи. Вместо того чтобы, чертыхаясь, искать их,можно просто взять свой смартфон, задать поиск, и система ответит вам, что они завались под подушку на диване. Это уже возможно. И с одной стороны, такие перспективы захватывают. С другой, ужасают.

Недавно на одной из главных конференций для разработчиков ПО, Microsoft Build, Microsoft показали именно такого рода технику. Совместив возможности распознавания образов, камеры наблюдения и огромную вычислительную мощность, компания создала систему, которая может узнавать и указывать на людей и предметы в любой комнате. То есть, если что-то попало в кадр, оно индексируется и становится инструментом для контекстного поиска.

К примеру, системе можно ввести определенные изображения, и когда она поймет, как выглядят требуемые объекты, можно ввести определенные правила, чтобы она реагировала на их нарушение. Например, только сертифицированные работники могут заходить на определенную территорию, или носить определенные предметы. Если же это правило нарушается, то система сразу поднимает тревогу.

Все это впечатляет, и понятно, почему Microsoft собирается применять подобные системы на фабриках, заводях или в больницах, но здесь кроется и большая опасность, о чем кстати компания не говорит вообще.

И эта опасность по сути гораздо хуже гипотетического компьютера с мечтой убить всех людей.

Да, такая система сразу распознает, что пациенту в палате стало плохо, или что рабочие на фабрике решили погонять на погрузчике или вынести чего-нибудь с производства. Но с ее помощью, например, можно легко и просто узнать, как любой сотрудник проводит день на работе — буквально посекундно. И да, сейчас камеры стоят везде, но для того чтобы извлечь из них информацию, их должен просмотреть человек. Программа же следит и контролирует всегда. Она не устает, она всегда точна, она подметит любое отклонение от правил. А если ее взломают из вне?

Если же представить себе применение этой технологии в более широких масштабах, то сразу видно, что все это похоже на систему распознавания из дюжины антиутопических фильмов, например, «Особого мнения», где любого человека можно было легко вычислить в толпе просто по запросу фото. Ну и разумеется, это открывает огромные возможности для любой таргетированной рекламы, ведь с помощью такой системы можно собрать досье на любого человека, и оно будет полным, поминутным и исчерпывающим.

Разумеется, динамическое распознавание образов принесет немало бонусов и может спасти немало жизней, как показывает компания в демо-ролике, но без строго регулирования подобные смарткамеры могут отправить в небытие все установки о неприкосновенности частной жизни. Технологии развиваются быстро, и мы не слишком-то успеваем адаптировать их.

источник