Преподаватели компании Эуэна Блэра рассказали о «невыносимом стрессе» из-за оценок их работы с помощью ИИ

Сотрудники проводят обучение компьютерным навыкам и ИИ для тысяч работников государственного и частного секторов Великобритании. Теперь расшифровки онлайн-занятий анализирует ИИ: если он подозревает, что преподаватель допустил ошибку, система сообщает об этом менеджерам.

Алгоритм может отметить преподавателя, если тот не устранил сбой связи примерно за минуту или слишком часто использовал слова-паразиты — например, «вроде» и «как бы».

Преподаватели назвали новую систему «безжалостной» и «тревожной». По их словам, некоторые сотрудники постоянно напряжены, плохо спят и обращаются за терапией.

Multiverse основал старший сын бывшего премьер-министра Тони Блэра. В компании работают более 800 человек. Она обучает работников навыкам в области ИИ и цифровых технологий в Национальной службе здравоохранения Великобритании, местных советах, университетах и частных компаниях. Обучение в основном финансируется за счёт государственного сбора на ученичество.

Блэр, как и его отец, активно выступает за широкое внедрение ИИ в экономику Великобритании. На прошлой неделе он заявил, что «каждому работнику потребуется переобучение», а работодатели хотят, чтобы их сотрудники «как можно активнее осваивали ИИ». Multiverse использует модели Anthropic и OpenAI.

Новая система присваивает каждому преподавателю «статус риска», рассчитывает «процент уверенности» и готовит для менеджеров краткие письменные комментарии о его работе.

Это очередной случай, когда работодатели применяют ИИ для наблюдения за поведением сотрудников. Ранее в этом году Burger King начал использовать ИИ для анализа общения работников ресторанов с клиентами. А летом Meta приостановила отслеживание нажатий клавиш на компьютерах сотрудников после опасений о конфиденциальности данных и недовольства персонала.

Критики предупреждают, что наблюдение с помощью ИИ может лишать людей самостоятельности. Одно исследование показало, что такой контроль способен вызвать у работников сопротивление. Согласно новому исследованию, которое опубликуют на этой неделе, сотрудники технологической отрасли Великобритании считают, что ИИ снижает удовлетворённость работой. Отделение профсоюза работников связи Communication Workers Union — «Объединённые работники технологий и смежных отраслей» — пришло к выводу, что ИИ вызывает «когнитивную капитуляцию»: сотрудники теряют навыки и уверенность, а работа часто становится интенсивнее, а не легче.

«С тех пор как всё это внедрили, стресс стал просто ужасным», — рассказал один из нескольких преподавателей Multiverse, попросивших не называть их имена. По его словам, ситуация нарушила сон не только ему. Он добавил, что за свою жизнь пережил многое, но раньше никогда не просыпался посреди ночи.

Прежде менеджер наблюдал за каждым преподавателем раз в месяц. Теперь ИИ следит за ними по несколько часов в день. Алгоритм может снизить оценку, если преподаватель отвечает на вопросы расплывчато или неуверенно, если ученики замолкают после просьбы высказаться или если преподаватель надолго переключается на разговор с одним учеником, оставляя без внимания остальных.

«Это вызывает стресс: приходится постоянно быть настороже, — сказал один из преподавателей. — Вместо того чтобы вести урок и слушать ученика, я думаю: правильно ли я сейчас говорю, не снизит ли ИИ оценку из-за какой-нибудь глупости, которую я случайно сказал».

Другой преподаватель назвал систему «очень неприятной».

В Multiverse утверждают, что ИИ не заменяет человеческую оценку, а «помогает направлять внимание людей туда, где оно нужнее», отмечая проблемные занятия. Представитель компании заявил, что Multiverse «использует ИИ, чтобы улучшить опыт учеников и клиентов», а отзывы о работе преподавателей пишут только менеджеры.

Представитель не ответил прямо на жалобы о стрессе и тревоге и на слова сотрудников о «безжалостности» системы. Он сообщил, что о её внедрении предупредили заранее, а преподаватели получат доступ к собранным данным.

По словам представителя, система помогает преподавателям получать рекомендации по развитию и обратную связь, а её наиболее серьёзное действие — предложить человеку лично проверить занятие.

Блэру принадлежит крупная миноритарная доля Multiverse. Его личное состояние оценивают в £350 млн. Недавно стоимость компании оценили в £1,6 млрд: при этом её выручка в прошлом году составила £118 млн, а убытки — £28 млн. В феврале Ofsted, британская инспекция образования, установила, что Multiverse не соответствует ожидаемым стандартам в нескольких областях, но похвалила преподавателей, назвав их «квалифицированными и эффективными».

Как ИИ оценивает занятия

Новый ИИ-агент для наблюдения за преподавателями внедрили в последние недели. Его обучили выявлять признаки того, что преподаватель недостаточно хорошо усвоил учебный материал. Алгоритму предписано считать речевые особенности, которые могут на это указывать, и «оценивать закономерность по всей расшифровке, а не отдельные случаи».

В инструкции говорится: «Один-два неуверенных оборота или слова-паразита в остальном ясном и хорошо усвоенном объяснении НЕ означают, что стандарт не выполнен… Стандарт не соблюдён, если слова-паразиты, неуверенные обороты или повторные объяснения встречаются ПОСТОЯННО и СИСТЕМАТИЧЕСКИ».

Если преподаватель задаёт ученикам упражнение, то, согласно инструкции, «если сам преподаватель заметно запутался или исправил себя во время объяснения задания, это уже считается свидетельством того, что с первого раза задание объяснили неясно». ИИ предписано поставить отрицательную отметку, «даже если в итоге всё было исправлено».

Сотрудники рассказали, что из-за наблюдения менеджеры вызывали их на разговор, подозревая в «отклонениях от темы», хотя на деле они отвечали на вопросы учеников.

«Я не могу не переживать из-за этого», — сказал один из преподавателей.

«Я чувствую, что за мной постоянно наблюдают, — рассказал другой. — Важно только то, чего я не сделал на занятии, а не то, что сделал. Вчера я допустил ошибку? Что я испорчу сегодня? Это безжалостно. Я не понимаю, зачем всё это происходит».

Джон Чедфилд, национальный представитель профсоюза CWU по вопросам технологий, заявил, что публика была бы возмущена, узнав о «глубоко вторгающемся в личную жизнь наблюдении за работниками» со стороны руководства. При этом, добавил он, эта новость не удивит работников технологической отрасли, которые знают её изнутри и считают, что она остро нуждается в дополнительном регулировании.

Чедфилд призвал принять новые законы, которые обеспечат социально ответственное применение ИИ, а не позволят «закрывать молодым людям возможности трудоустройства, обесценивать мастерство квалифицированных работников и приносить огромную прибыль немногим».

«ИИ оценивает мои уроки. Multiverse называет это контролем качества, но для меня это слежка»

Постоянное наблюдение со стороны ИИ крайне неприятно. Представьте, что каждое ваше слово на работе сверяют с правилами, которые определяют, что и как вам следует говорить. Так теперь происходит со мной и моими коллегами: каждый урок для учеников записывают и расшифровывают. Это кажется вторжением в личную жизнь. Multiverse называет такой контроль качества, но для меня это слежка.

Теперь менеджеры могут открыть панель и посмотреть, как ИИ оценил каждое занятие. Он присваивает каждому из нас уровень риска — вероятность того, что преподаватель сказал что-то не так. Это вызывает стресс по нескольким причинам.

Во-первых, ИИ ошибается. Менеджеры должны разбираться с преподавателями, которые, по оценке системы, отошли от сценария, хотя на самом деле подстроили урок под потребности ученика. Постоянная угроза, что в любой момент твои действия будут подробно разбирать, вызывает тревогу.

Во-вторых, система непрозрачна. Во время её разработки преподавателей не посвящали в происходящее. Мы не видим, как ИИ анализирует занятия. Компания говорит, что со временем сотрудники получат доступ к панели, но пока её видят только менеджеры.

Необходимость всё время быть осторожным меняет приоритеты. Вместо внимания к ученику начинаешь думать о том, правильно ли говоришь. Само по себе напряжённо проводить большую часть дня перед камерой, а постоянное ощущение, что за тобой следит ИИ, делает ситуацию ещё хуже.

Полезнее было бы применить ИИ для улучшения учебных материалов и качества преподавания. Вместо этого система проверяет, удалось ли преподавателю заполнить пробелы в знаниях. Сейчас это слежка, а не поддержка.

Меня также тревожит, для чего будут использовать эти данные. Когда ИИ заменяет людей, трудно не опасаться, что записи начнут использовать для обучения ИИ, который в итоге заменит наставников и преподавателей. Ученики этого не хотят, как и я. Я никогда бы не согласился, чтобы мои занятия использовали таким образом.