Прослушка: чем на самом деле будет заниматься установленная в школе нейросеть

В конце марта в нескольких школах Екатеринбурга установили «систему аудиоаналитики», проще говоря — прослушку. Как заявляют в школе, сделано это для предотвращения терактов.

Нейросеть слушает звуки и, если улавливает «опасные» слова («бомба», «теракт», «расстреляю»), формирует минутное видео — за 30 секунд до звука и после него. Видео направляется директору. Также сигнал получают учителя. Кроме того, нейросеть улавливает звуки бьющегося стекла, передергивания затвора и т.п.

В будущем эту систему можно будет использовать и для борьбы с буллингом.

Chips Journal обсудил с юристами, насколько ведение прослушки законно и эффективно, и задал вопрос психологу: как она может повлиять на отношения между взрослыми и учениками.

Борьба с террористической угрозой — или с инакомыслием?

«По российским законам, скрытую запись можно вести при осуществлении оперативно-розыскных мероприятий, для фиксации правоохранительными органами или гражданами готовящегося или совершаемого противоправного деяния, — комментирует юрист Галина Тарасова. — В общественном месте, в том числе в школе, можно вести аудио- и видеозапись. А если это делается в целях безопасности, то даже необязательно получать согласие учителей и родителей. Нужно только официально уведомить их.

Создатели нейросети говорят, что никто не сидит и не слушает разговоры, но фразы, которые нейросеть зафиксирует, будет прослушивать и оценивать человек. Так что нейросеть, ориентированная на определенные слова, может дать большой простор для нарушения прав детей и взрослых.

А ваш ребенок — экстремист? Скоро это будет определять нейросеть

Хорошо, если руководство школы стремится предотвратить новые «колумбайны»*. А если оно задастся целью устанавливать инакомыслящих детей и родителей? А как насчет слова «секс»? Если оно будет в числе «сигнальных», разговоры учителей, родителей и подростков о сексуальной жизни могут стать известны посторонним.

Многие слова, которые нейросеть использует как сигнальные для предотвращения теракта или буллинга, могут фигурировать и в обычных бытовых разговорах. Например, словом «бомба» подростки могут комментировать какое-то событие или видео, позитивно его оценивая.

А если по каждому подобному случаю ученику придется объясняться… Вместо обеспечения безопасности мы можем получить напряженную обстановку, нарушение прав учеников, родителей, учителей. Все эти ситуации могут затронуть право на неприкосновенность личной и семейной жизни, на личную и семейную тайну, право на свободу выражения мнения. Не говоря о том, что это может быть неэффективно».

Отрывок из книги «Почему дети убивают». Стыд, зависть и недостаток мужества

Про права человека

Адвокат Марина Агальцова, специализирующаяся на международном праве и ведении жалоб в Европейском суде по правам человека, также со скептицизмом отнеслась к таким инновациям: «Если смотреть с точки зрения концепции прав человека, то в публичном пространстве вполне допустимо ставить видеокамеры: вмешательство в личную жизнь минимальное, а предотвращать или раскрывать преступления действительно помогает. С прослушиванием сложнее. Если мы не выступаем публично, мы ожидаем, что наша беседа приватна, то есть она не станет достоянием общественности, даже если разговор происходит в публичном месте, вроде кафе.

Несмотря на то, что нейросеть улавливает только громкие или «опасные» слова, это не меняет сути. Понятно, что директор хочет предотвращать маргинальные поступки, но это очень серьезное вмешательство. Средство непропорционально целям. Есть другие способы профилактики, нужно использовать их».

А какие есть способы?

Психолог Татьяна Стаценко, действительный член Общероссийской профессиональной психотерапевтической лиги, делится тем, какие способы использовать лучше: «Чтобы ситуация менялась — я имею в виду профилактику насильственных действий разного толка, будь то стрельба или буллинг, — надо применять совершенно другие методы, в первую очередь воспитательные. Психологическая служба в школе должна стать более эффективной и профессиональной. Зачастую психолог зависит от администрации школы и обслуживает лишь ее интересы и интересы учителей, он не пользуется ни уважением, ни доверием школьников, родители тоже не бегут к школьному психологу с вопросами и признаниями… Это должна быть независимая и по-другому организованная служба».

«И взрослые, и подростки могут расценить такую прослушку как нарушение границ, — продолжает Стаценко. — Будет расти недоверие. Для предотвращения буллинга, для которого также планируют использовать нейросеть, недоверие очень губительно. Там, где между взрослыми (учителями, родителями) и детьми есть доверие, там нет буллинга. Там, где есть „команда“, а не сборище стукачей или рабов, где каждый за себя и против всех, там нет буллинга».

«Будущее, которое мы заслужили»

Власти отмечают, что ведение прослушки незатратно и при этом высокоэффективно.

Директор школы №215 Ирина Гумбатова «Созвездие», где работает нейросеть, заявила, что «это не слежка, а дополнительная безопасность, поэтому родители введение системы поддержали. Мы здесь защищаемся не от детей, а от внешних угроз».

В комментариях к материалу на E1.ru пользователи усомнились в искренности руководителя школы и высказали возмущение по поводу такого нововведения (орфография и пунктуация авторов постов сохранены).

56151388: « <…> Мне одному кажется или на самом деле где-то что-то врет в наглую?»

Вмерший вид: « <…> будут слушать, кто как воспевает флаг по утрам и тех кто плохо поет сразу на карандаш».

Алекс: «Будущее, которое мы заслужили. Это чудовищно (».

38233728: «Интересно, а как они будут определять, кто из детей сказал запрещенное слово. Чую, придется нанимать адвокатов для детей. 51 ст в помощь не только взрослым, но и детям».

Айк: «Просто смешно! Не думаю, что какой-нибудь очередной колумбайненок* зная, что его прослушивают, умышленно будет говорить в микрофон о том, что хочет сделать».

Система действует в тестовом режиме уже более месяца. Проверяется, сколько раз она будет давать ложные сигналы, какие есть неточности в работе.

Когда систему «опробуют и настроят полностью», сигналы будут также отправляться в ЧОП, обслуживающий школу.

Леонид Стариков, руководитель компании «Недремлющее око», автор инновационной системы, говорит, что она позволит ускорить реакцию силовиков и властей: «В Казани, насколько я знаю, кнопку нажали поздно, а наша система могла бы отправить сигнал в ЧОП или МВД сразу в момент выстрела, здесь минуты решают все».

До конца года мэрия Екатеринбурга решит, будет ли применять эту систему в других учебных заведения.

* — 2 февраля 2022 Верховный суд РФ по требованию Генпрокуратуры признал «Колумбайн» «террористическим движением».