Учись на пятёрки, только наручники не забудь надеть

Кадр из сериала «Чёрное зеркало», Netflix

Удивительное отличие сериала «Чёрное зеркало» от другой кино- и телефантастики состоит в том, что предсказанная в нём антиутопия что-то уж слишком быстро начинает сбываться. Мы ведь как привыкли: смотришь фильм, а там роботы, летающие машины, путешествия во времени — но до этого еще далеко, и когда это всё появится — непонятно. А вот описанные в «Чёрном зеркале» системы рейтингов, тотального контроля, распознавания лиц, стирания личности — да вот оно, пожалуйста, уже здесь, в Великом и Прекрасном Китае!

Как вам, например, такая новость: в китайских школах устанавливают системы распознавания лиц в школьных классах? Звучит странновато, но это происходит прямо сейчас!

По меньшей мере в семи школах разных городов КНР в порядке эксперимента установили специальные камеры, контролирующие любое движение учеников. При этом искусственный интеллект идентифицирует личность ученика и определяет степень его вовлечённости в занятия.

Кстати, уже существуют технологии, которые даже могут научиться распознавать почерк, чтобы определять, что дети пишут на уроках: может, там не уравнение, а любовная записка?

Технологии не только используют заложенные алгоритмы, но еще и самообучаются и совершенствуются со временем.

Как это работает? Небольшая камера над доской фотографирует класс каждую минуту, система анализирует поведение ребенка: «слушает», «отвечает», «пишет», «болтает с одноклассником», «спит». Все записи остаются в памяти, в конце недели каждому ученику выставляется специальный рейтинг, доступный учителям и родителям.

Учеников об этом никто даже не предупреждает (они проходят специальную процедуру фотографирования, но им не объясняют, для чего это).

Система пока не сертифицирована, однако её распространение активно продвигается: один из поставщиков камер Hanwang Technology планирует к концу года оснастить до ста школ в стране. Эта технология называется «Система заботы о классе». Директор компании объясняет: у учителя только одна пара глаз, и он обращает внимание только на отличников и двоечников. А кто обратит внимание на середнячков? Наша система «позаботится» о каждом.

Комплект камер и оборудования для контроля за шестью классными комнатами обойдется в 9 тысяч долларов. Если брать оптом, выйдет дешевле: 22,5 тысячи за 20 классов. Власти предоставляют субсидии школам, если они хотят принять участие в столь полезном эксперименте.

Вы спросите: а зачем все это? Зачем наблюдать за детьми? Официальный ответ звучит так: «Ну как зачем?! Естественно, чтобы понять, какой материал им интересен, а какой нет, и что можно улучшить!». Если ребенку не очень интересен материал, стоит задуматься, в чём причина.

Говорят, что родители совсем не против системы: они же хотят для своих детей лучшего, а для этого надо знать, чем детишки занимаются на уроках. Спал на занятии? Получай затрещину, лодырь! В университет не поступишь, дворником улицы мести пойдешь! Болтала с подружкой? Надо будет учителя попросить вас рассадить!

Сами школьники ожидаемо не очень рады (мягко говоря). В китайских соцсетях трендится хештег: славабогучтояужевыпустился. Во-первых, неприятно, что никто об этом не предупреждает. А во-вторых, неизвестно, как данные о твоем поведении будут использованы в будущем, и как они повлияют на оценки. Некоторые даже стали из протестных соображений самостоятельно отключать камеры, хотя в беседах признаются, что это было очень страшно, так как камера могла распознать лицо.

Фото: Xue Yujie / Sixth Tone

Подобные эксперименты ведутся в рамках китайского государственного Плана развития искусственного интеллекта следующего поколения, рассчитанного до 2030 года, когда рынок подобных технологий должен вырасти до 150 миллиардов долларов. План предполагает внедрение технологий во всех аспектах жизни, и одним из направлений является как раз «умное образование».

Все эти технологии напоминают идеальный макет тюрьмы, разработанный английским философом Иеремией Бентамом в XVIII веке — паноптикум. Это цилиндрическое строение со стеклянными внутренними перегородками. Стражник находится в центре, но невидим для заключенных. Узники не знают, в какой именно момент за ними наблюдают, и у них создается впечатление постоянного контроля. Таким образом они становятся идеальными заключенными.

Вы думали, распознаванием лиц в классах дело ограничилось? Ахаха, не смешите! В школе на юге Китая у детей уже собирают биометрические данные, в том числе снимают отпечатки пальцев, чтобы... определить их уровень интеллекта и способности к спорту и музыке! Детей ни о чём не предупредили, просто отвели в спортзал и сняли параметры. А родителям предложили родителям надо скачать приложение в WeChat, где можно получить данные по IQ ребенка, а за деньги (примерно за 2000 рублей) — некие «дополнительные сведения». Школа пытается представить это как часть программы перехода на «умное образование», хотя не факт, что им это удастся — уже даже главная газета страны «Жэньминь жибао» написала разъяснение, в котором выражено мнение, что это «немного чересчур».

Признавайтесь, хотели бы, чтобы за вашим ребенком в классе немножко понаблюдали?