В прошлом году несколько демонстрантов выступило против контракта между компанией из Кремниевой долины Salesforce и погранично-таможенной службой США, пишет Handelsblatt. Причиной стал инцидент, когда погранично-таможенная служба насильно разделила нескольких детей с их семьями на американской границе и поместила их в специальные лагеря. Salesforce обвинили в том, что их технологии используются для разделения семей. Сама компания отвергла все обвинения.
Salesforce является символом «двойственности» Кремниевой долины, отмечает издание. С одной стороны, компании стремятся показать себя рассудительными игроками и двигателями прогресса, а с другой — они всё чаще воспринимаются в качестве движущей силы несправедливости.
На данный момент Salesforce является лидером на рынке CRM-систем, управляющих отношениями с клиентами. Созданная компанией платформа Customer 360 может помочь эффективно продать одежду Louis Vuitton или собачий корм. При этом она также способна получать доступ к профилям людей и оценивать их.
Технология распознавания лиц Google, Amazon или Microsoft может как дать людям перспективу, так и навсегда лишить её, пишет Handelsblatt. Она способна выделять людей из толпы и преследовать их. Искусственный интеллект анализирует поведение клиентов — это может привести как к росту продаж, так и к компрометированию и дискриминации.
Как отмечает издание, используемые данные могут зачастую быть неточными и происходить из сомнительных источников, а анализирующие их алгоритмы — непрозрачными и непонятными для обычных людей: несмотря на это, такие технологии могут решать судьбы. «Технологическая отрасль переживает глубокий кризис доверия. Люди потеряли веру в технологии», — приводит Handelsblatt слова Питера Шварца из компании Salesforce.
Люди видят, как Facebook, Twitter или Google помогают манипулировать выборами и подрывать демократию, пишет издание. При этом Шварц убеждён, что процесс цифровизации остановить невозможно, поэтому необходимо восстановить доверие людей. По его мнению, хорошим первым шагом могло бы стать принятие закона о защите персональных данных. Идею о введении более строгих правил по защите данных также поддержал и глава Salesforce Марк Бениофф.