Я технический директор: ИИ всё ещё нуждается в вашей экспертизе

Где ИИ ошибается

По данным исследовательского центра Pew Research Center, жители 34 из 37 стран, участвовавших в опросе, ожидают, что из-за ИИ рабочих мест станет меньше. В богатых странах, включая США, Австралию и Южную Корею, примерно семь из десяти человек ждут сокращения занятости в ближайшие 20 лет. Во многих странах тревога растёт и среди молодёжи. Но важнее не только число рабочих мест, а то, какими станут сами профессии.

Человеческая работа будет всё больше опираться на суждение. Специалисты называют способности ИИ «рваными»: в одних задачах он превосходит людей, а в других оказывается слабым, и чёткой границы между ними нет. ИИ быстро улучшается там, где результат можно автоматически проверить и для обучения есть бесконечно много примеров. Но он ненадёжен, если автоматического теста на правильность ответа не существует. Даже выполняя задачу верно в большинстве случаев, ИИ часто не сообщает, когда ошибся. Пользователи наверняка сталкивались с тем, как уверенно он выдаёт неверный ответ.

Часть ошибок исчезнет по мере развития моделей. Однако, по словам Шашанки, неровность их способностей связана и с самим способом обучения. Он регулярно наблюдает это как технический руководитель, который работает с такими системами.

Более умной модели всё равно нужен правильный ответ, на котором можно учиться. Стоит закрыть один пробел — и обнаруживается другой, о котором никто не подумал. При этом у многих деловых решений нет очевидного правильного ответа: оценка зависит от будущего, которое неизвестно, и данных, которых пока нет. Здесь и требуется человеческое суждение. Поэтому ИИ будет осваивать задачи с проверяемым результатом, но испытывать трудности там, где человеку нужно самому определить, что считать хорошим исходом.

Новые задачи для людей

Появляются новые виды работы. Одни специалисты проверяют результаты ИИ на практике, а не только по бенчмаркам. Другие заранее задают ограничения на действия системы, чтобы избежать самых серьёзных ошибок. Третьи запускают несколько ИИ-агентов и управляют ими, как начальник смены — бригадой.

Это похоже на работу диспетчерской вышки аэропорта: радар и программы отслеживают траектории самолётов, а люди оценивают отдельные ситуации, в которых нужно предотвратить столкновение. Вручную следить за каждым экраном не нужно — такой подход невозможно масштабировать.

Задать ограничения сложнее, чем кажется. В исследовании 2026 года ИИ-агенту поручили защитить секрет. В ответ он уничтожил собственный почтовый сервер и удалил все письма: системе дали цель, но не установили границ допустимых действий. Исследователи описали это как правильные ценности в сочетании с крайне плохим суждением. Чтобы решить, что должно быть запрещено и к чему приведёт ошибка, нужен человек, который знает работу и отвечает за результат.

Опыт важнее программирования

Хорошая новость для тех, кто беспокоится о своей работе: лучше всего с новыми задачами справятся не программисты, а люди, которые знают, как работа устроена на практике. Чтобы заметить, что уверенный в себе ИИ упустил или исказил, нужно знать полный ответ. Такое знание нельзя проверить автоматически или просто записать в инструкцию: это суждение, которое складывается годами работы и наблюдения за тем, как возникают ошибки.

Ford недавно убедилась в ценности такого опыта. В последние годы компания активно автоматизировала контроль качества и сократила тысячи рабочих мест. Но в начале этого года ей пришлось вновь нанять 350 опытных инженеров. Они должны были следить за процессом и искать точки отказа, прежде чем детали попадут на завод. Инженеры принесли с собой опыт, накопленный за годы наблюдений за поломками. С людьми во главе процесса Ford впервые с 2010 года заняла первое место среди массовых автомобильных брендов в рейтинге качества.

Как формируется суждение

Увольняя из-за ИИ сотрудников на начальных позициях и с рутинными обязанностями, компании совершают серьёзную ошибку. Именно такая работа помогает со временем развить суждение. Младшие сотрудники работают под руководством опытных специалистов, пока накопленный опыт не превращается в интуицию. ИИ убирает трудности, связанные с обучением работе, но потребность в суждении никуда не исчезает. Вместо этого исчезает путь, по которому его можно было приобрести.

Вопрос в том, останутся ли люди, способные понять, когда машины ошибаются. Сейчас мы автоматизируем среду, в которой учатся оценивать ситуацию. По словам Шашанки, в ближайшие годы опыт, накопленный тяжёлым трудом, станет ещё ценнее. Тем, кто только начинает карьеру, прежняя модель обучения у старших коллег уже не гарантирует такой опыт. Его придётся приобретать целенаправленно — на задачах, которые машины пока не умеют оценивать.

Мадху Шашанка — сооснователь, главный научный сотрудник и технический директор Concentric AI, компании, разрабатывающей программное обеспечение для защиты данных.