Искусственный интеллект следит за китайскими студентами. Но много ли он видит?

О внедрении современных технологий в жизнь граждан стремительно развивающегося Китая можно говорить долго и много. Причем часто о новых технологиях, распознавании лиц и сборе личных данных говорят в негативном ключе. А вот South China Morning Post решили узнать, не как эти технологии нарушают право на частную жизнь, а как хорошо они работают.

Практически каждая секунда жизни студентки по фамилии Ли контролируется.

22-летняя девушка учится в университете на северо-западе Китая в городе Сиань (провинция Шэньси). Вход в общежитие Ли осуществляется через систему распознавания лиц, которая к тому же собирает информацию о посещении. Камеры есть и в аудиториях, они висят над школьной доской и мониторят вовлеченность студентов в учебный процесс.

Ее университет не единственный в своем роде. По всей стране шагает диджитализация в рамках кампании «умный кампус», которую министерство образования запустило несколько лет назад. Так что умные камеры с системой распознавания лиц — уже давно не новость в Китае. Некоторые учебные заведения пошли дальше и пытаются анализировать поведение студентов и учителей с помощью ИИ.

Активно финансируя образовательную сферу жизни своих граждан, Китай преследует две цели. В КНР надеются не только укрепить позиции страны на мировой арене, но и возглавить новую технологическую революцию.

Однако технологии слежения за студентами вызывают много вопросов у родителей и учителей. А недавно встал еще один вопрос. Насколько эти технологии вообще эффективны?

Ли уже не удивляется сбоям в системе слежения. «Умное» распознавание лиц не в силах узнать студентку, если на ней другие очки. Из-за таких мелочей у входа в общежитие образуются длинные очереди.

Призывая учебные заведения внедрять информационные технологии, в Пекине, конечно, не рассчитывали на очереди. ИИ был призван упростить процессы управления и на основе больших данных развить приложения для обучения онлайн.

В подробном плане 2018 года министерство предложило учебным заведениям новую модель образования, где контролировать образовательный процесс и анализировать успехи его участников будет ИИ.

И школы по всему Китаю с энтузиазмом принялись внедрять ИИ, особенно всем понравилась система распознавания лиц. Причем такую систему используют не только на пропускных пунктах

В школе №11 города Ханчжоу провинции Чжэцзян информационные технологии внедряют для разных целей. С их помощью распределяют еду в школьной столовой. Они используются на уроках, чтобы оценивать студенческую вовлеченность. Камеры над доской могут определить семь основных видов настроения: спокойствие, счастье, грусть, разочарование, злость, страх и удивление.

А в провинции Гуйчжоу компания Guanyu Technology поставляет в школы провинции «умную форму». Согласно сайту компании, с помощью вшитых в одежду чипов отслеживается местоположение студентов.

Профессор Пекинского педагогического университета У Шэнько сказал, что эти нововведения не случайно появились в школах и университетах, ведь в важном деле распространения ИИ рассчитывают именно на молодежь.

«В будущем образовательная система будет заполнена приложениями с искусственным интеллектом. Поколение Z — те, кто родился в 1990-х и 2000-х, использовали Интернет с ранних лет своей жизни. Для обучения им необходим индивидуальный подход, и в этом ИИ будет очень полезен».

Но стремительное распространение таких технологий заставляет многих родителей беспокоиться об уязвимости личной информации своих детей.

56-летний Тянь Гуанхуэй настолько обеспокоился этой проблемой, что даже опубликовал в интернете открытое письмо. В нем он призвал обратить внимание на то, как ИИ может влиять на психическое здоровье молодежи.

«Когда мы были молодыми, нам очень не хотелось, чтобы родители следили за каждым днем нашей жизни. А если за каждым днем вашей жизни будет следить электронный глаз, то это точно повлияет на ваше психическое здоровье», — рассказал Тянь в своем письме, которое собрало более ста подписей.

«Я думал, что учить детей — это рассказать им о вежливости и человечности, это воспитать в них жажду к знаниям. Почему мы должны следить за ними?»

Профессор электронной инженерии из Университета Цинхуа Ван Шэнцзинь тоже беспокоится о частной жизни и безопасности информации в современном мире.

«Поступки, хобби и привычки студентов — их личное дело. Я не уверен, что мы можем собирать такого рода информацию».

Осознав наконец обеспокоенность населения злоупотреблением таких технологий, министерство ограничило сбор информации. В руководстве, которое было выпущено в сентябре 2019 года, разработчикам приложений было разъяснено, какую информацию о студентах собирать можно, а куда вмешиваться не стоит.

Лэй Чаоцзы глава ведомства науки и технологий КНР рассказал шанхайскому онлайн-изданию The Paper, что министерство уже назначило группу специалистов для изучения проблем безопасности и конфиденциальности данных в связи с проблемой распознавания лиц в учебных кампусах страны.

«Мы ограничим и урегулируем внедрение ИИ в учебных кампусах. А пока мы лишь призываем школьные администрации с большей осторожностью использовать эти технологии», — сказал политик.

«Мы должны очень бережно обращаться с любой личной информацией студентов: не собирать ее, где это возможно и собирать по минимуму, если что-то все-таки необходимо собрать. Особенно это касается биометрических данных».

 Но полезна ли собранная информация в принципе?

Доцент китайского Университета электронных наук и технологий (UESTC) в Чэнду (провинция Сычуань) признался, что лишь несколько университетов в стране способны эффективно использовать ИИ не только для сбора, но и анализа данных.

«ИИ отлично работает в узких и простых областях, например в шахматах. Студенты же гораздо сложнее: у них разные характеры, физиология и даже модель обучения. Поэтому пока ИИ довольно бесполезен в этой сфере», — рассказал доцент Цзэн Ляоюань.

Он также добавил, что камеры в аудиториях большинства школ просто помогают следить за посещаемостью и атмосферой на уроках, а в сканировании лиц студентов толку пока что мало.

Эффективны новые технологии или нет, они все равно уже стали частью студенческой жизни китайцев во многих городах. Ли из Сианя раньше серьезно беспокоилась о конфиденциальности информации. Но со временем ее беспокойство сменилось принятием ситуации.

«Мы уже давно потеряли неприкосновенность частной жизни, теперь нас видят насквозь, не так ли?»

Подготовила Полина Ширяева

Источник: ekd.me