В среду в Amazon объявили, что отключают полицию от сервиса распознавания лиц, для начала на один год. Технологический гигант не стал себя утруждать себя разъяснениями по поводу своего решения. Вполне возможно, что из за того, что в прошлом технологии Amazon подвергались критике за неправильную идентификацию цветных людей, а сейчас с неграми лучше не связываться.
Это объявление стало очень неожиданным решением. Amazon является поставщиком программного обеспечения распознавания лиц для правоохранительных органов. Amazon, как и другие крупные технологические компании, сильно сопротивлялась призывам замедлить развертывание этих систем. В прошлом в Amazon заявляли, что ее инструменты точны, а ошибки вызваны неправильной эксплуатацией.
В понедельник IBM заявила, что так же прекратит продажу ПО для распознавания лиц, а в прошлом году ведущий производитель камер для органов полиции запретил использование сервиса распознавания лиц в своих продуктах по рекомендации независимого совета по этике. Google так же выступил за временный запрет на эти технологии.
Правоохранительные органы давно и успешно используют технологию распознавания лиц для выявления подозреваемых и пропавших детей. Системы работают, пытаясь сопоставить данные о лицах с данными в базах данных, например из базы данных водительских прав. Власти очень эффективно использовали эту технологию, чтобы помочь идентифицировать подозреваемого в массовой стрельбе в прошлом году в Аннаполисе, штат Мэриленд.
Но на этой неделе демократы в палате представили закон о реформе полиции, который запретит использование технологии распознавания лиц с полицейским записывающим оборудованием. Защитники гражданских свобод начали кампанию по запрету использования распознавания лиц правоохранительными органами в 2018 году, после того, как доклад академических исследователей обнаружил расовую предвзятость в системах. В докладе говорится, что технологии распознавания лиц, разработанные IBM и Microsoft, смогли правильно определить пол белых мужчин на фотографиях примерно в 100% случаев. Но системы были гораздо менее точны в своей способности идентифицировать пол темнокожих женщин. IBM и Microsoft быстро улучшили свои системы, а Amazon отмалчивалась и оказалась под пристальным вниманием.
Американский союз защиты гражданских свобод (ACLU) в течение последних двух лет возглавлял кампанию, направленную на то, чтобы заставить Amazon прекратить продажи технологии правоохранительным органам. Группа получила документы, из полицейских департаментов, в которых было расписано, как агрессивно Amazon продвигает свои технологии в правоохранительные органы.
ACLU также проверил технологию Amazon, используя протерты членов Конгресса и сравнивая их с базой данных общедоступных снимков. Группа сообщила, что технология Amazon неправильно сопоставила 28 членов Конгресса с людьми, которые были арестованы, что составляет 5 процентов ошибок среди законодателей. В то время Amazon оспаривала выводы, утверждая, что группа использовала свою систему не так, как клиенты правоохранительных органов.
Amazon представила программное обеспечение Rekognition в 2016 году как недорогой, «хорошо масштабируемый» способ идентификации изображений, в том числе людей, в обширных базах данных. Вскоре после этого полиция начала использовать инструмент для проведения расследований, и правоохранительные органы начали внедрять эту технологию.
В своем интервью на шоу PBS «Frontline» в начале этого года Энди Джасси, исполнительный директор Amazon Web Services, сказал, что он не знает сколько полицейских департаментов внедряют и активно использует эту технологию.
