Цивилизация
В одной из школ Московской области планируют установить систему «умного» видеонаблюдения с нейронной сетью, которая должна будет следить за поведением учащихся, сообщает газета «Ведомости».
В систему войдут камеры видеонаблюдения с искусственным интеллектом, что, по задумке, позволит выявить как возможную опасную ситуацию вроде бега школьников по лестницам, так и нетипичное поведение детей. Предполагается, что система сможет следить даже за психоэмоциональным состоянием учащихся.
Если камера зафиксировала потенциальную угрозу окружающим, то система уведомит об этом учителя и других сотрудников школы.
«Чтобы определить психоэмоциональное состояние ребенка, мы используем нейронную сеть, которая сравнивает заложенные в нее эмоции и анализирует все факторы, от оценок ученика до его поведения. Для наглядной характеристики настроения используются смайлики трех видов: веселый, спокойный и грустный. Если у ребенка, по данным системы, три дня подряд плохое настроение, школьному психологу и учителю придет уведомление, которое подскажет специалистам, что нужно обратить внимание на ученика и поговорить с ним. Результат общения будет зафиксирован в системе», — говорит Александр Кочуров, исполнительный директор группы компаний «Союзинфотех», одного из разработчиков данной системы.
Кроме этого, система предиктивной безопасности будет контролировать состояние инфраструктуры школы. Например, если в помещении будет слишком жарко, система уведомит об этом работников учебного учреждения. Также можно будет следить за посещаемостью.
По мнению генерального директора АНО «Цифровые платформы» Арсения Щельцина, для того, чтобы технология действительно была полезна для педагогов и родителей, нужно учитывать несколько факторов. Во-первых, алгоритм анализа негативных и нетипичных ситуаций должен определяться совместно с профессионалами – школьными психологами.
«Разработчик определяет бег по коридорам и катание по перилам как опасную ситуацию, что, на мой взгляд, не соответствует действительности. Активность детей – это их форма развития. Другое дело — буллинг в столовой или на перемене, травмы, полученные в школе, анализ нетипичного психического состояния учащегося», — пояснил эксперт.
Во-вторых, важно дать системе «пищу для ума» — материалы, на которых ИИ будет учиться, школьные видео с размеченными нетипичными ситуациями, которые подбирали психологи, а не «боязливые родители». В-третьих, важно установить правила применения этой информации.
«Они должны быть открыты, согласованы с родительским сообществом и зарегистрированы как региональный правительственный нормативный документ», — уверен Щельцин.
IT-предприниматель и создатель цифровой платформы для анализа больших данных «Глаз Бога» Евгений Антипов считает, что искусственный интеллект на данный момент — это в первую очередь мощный инструмент для постоянного анализа и сбора информации о происходящем, так что проблем с установкой подобных систем в школах возникнуть не должно.
«Система предиктивной безопасности, на мой взгляд, вряд ли способна совершить критическую ошибку, грозящую какими-либо серьезными последствиями. Если ребенку стало плохо — преподаватель или врач получит оповещение и картинку на экране телефона по поводу происходящего. Никто посторонний не сможет проникнуть в помещение, так как система сможет постоянно анализировать и понимать, кто сейчас находится в школе, и кто должен находиться.
Система позволит не просто улучшить дисциплину и безопасность, но в перспективе и добавит социальную составляющую, так как можно будет легко анализировать поведение ребенка, его круг общения и даже прогнозировать возможное поведение ребенка», — рассказал Антипов.
Тестирование подобных систем в школах не несет угроз, так как система на первом этапе будет иметь лишь информационный характер, считает эксперт.
«Единственное, к чему должно быть повышенное внимание при внедрении подобных систем, — это защита данных. Никому бы не хотелось, чтобы в руках злоумышленников оказался доступ к прямой трансляции происходящего в школе. Вероятнее всего, нужно будет максимально ограничить доступ к системе слежения на начальном этапе и тщательно следить, кому этот доступ дается», — предупредил Антипов.
