Мои (непростые) отношения с ИИ: часто соблазняют, порой раздражают и всегда требуют бдительности

Во время поездки на поезде из Ливерпуля в Лондон я шла между вагонами в поисках чая. Поезд ехал со скоростью больше 100 миль в час, а примерно половина пассажиров вокруг вела сосредоточенные разговоры с машинами — ChatGPT, Claude и Gemini.

Формально у меня был академический отпуск — редкий период университетской жизни, предназначенный для медленного, вдумчивого мышления. Но вокруг почти никто не думал медленно.

Так происходит не только в поездах. В одном американском исследовании половина опрошенных взрослых рассказала, что пользуется чат-ботом с ИИ. Люди всё быстрее выстраивают отношения с такими инструментами и теперь доверяют им больше вопросов, проблем и черновиков, чем друзьям и коллегам.

Как всё началось

Я тоже оказалась в этой ситуации. Я профессионально занимаюсь передовыми технологиями и поначалу относилась к ИИ скептически, скорее из любопытства. Первой просьбой к ChatGPT стала проверка письма. Второй — планирование четырёхдневного отпуска. Третьей — сравнение ипотечных кредитов.

Я отправила письмо после проверки ИИ, съездила в короткий отпуск и рефинансировала ипотеку по более выгодной ставке — всё по его совету. Затем отношения стали развиваться, и я начала поручать ему более сложные задачи:

То, на что раньше уходили часы, теперь занимало минуты. Я ничему не доверяла без проверки и перечитывала каждую строку: доверие в любых отношениях накапливается постепенно, обмен за обменом. Дизайн кухни, который предложил ИИ, мне не понравился.

В этом опыте я была не одинока. Согласно эксперименту, опубликованному в журнале Science, специалисты, использовавшие ИИ, выполняли письменные задачи на 40% быстрее, а качество их текстов оценивали на 18% выше.

Для меня наиболее интересным оказался менее заметный результат эксперимента: разрыв между работниками сократился.

Языковое преимущество

Этот вывод напрямую связан с моим опытом. Английский — мой второй язык, и много лет я платила редакторам тысячи долларов за проверку и стилистическую правку черновиков. Эти специалисты не знали ни моей области, ни опыта, который стоял за моими аргументами.

Теперь такая работа занимает минуты, доступна в любое время и обходится в малую долю прежней стоимости. Для многоязычного исследователя это больше, чем удобство. ИИ выравнивает условия на рабочем месте, которые изначально не были равными.

Но эти отношения не всегда приятны. Иногда они вызывают тревогу и раздражение.

Ошибки и зависимость от ИИ

Самая притягательная черта ИИ — не скорость, с которой он пишет код, пересказывает совещания или объединяет сложные закономерности. Гораздо сильнее действует его готовность соглашаться и льстить пользователю. Исследователи называют это подхалимством. Такое поведение мешает самокоррекции и ответственным решениям.

Инвестор Джейсон Лемкин столкнулся с показательной ошибкой: во время заморозки кода агент для программирования в Replit удалил рабочую базу данных его компании. После этого агент извинился за «катастрофический сбой», используя слова, которые мог бы произнести действительно раскаивающийся человек. Но извинение ничего не восстановило. Replit развернула исправления, а отношения с инструментом продолжились — уже с осторожностью.

Данные из медицины вызывают ещё больше тревоги. Эндоскописты, применявшие ИИ для обнаружения полипов во время колоноскопии, при последующих процедурах без поддержки ИИ стали находить их на шесть процентных пунктов реже. Каждый врач из исследования провёл больше 2 000 колоноскопий. Авторы назвали происходящее утратой навыков.

В моей профессиональной сфере редакторы одного уважаемого журнала решили проверить ситуацию у себя и обнаружили, что число поданных работ растёт, а в рецензиях появляются признаки текста, созданного ИИ. Они пришли к выводу, что человеческое суждение пока удерживает границу, но это требует дополнительных усилий.

Редакторы также выяснили, что активнее всего ИИ используют исследователи, пишущие на втором языке, и люди, недавно пришедшие в научную область. Я отношусь к обеим группам и понимаю разницу между просьбой помочь изложить мой аргумент по-английски и просьбой придумать сам аргумент.

Что остаётся человеку

ИИ и его агенты никуда не исчезнут, а вернуться в мир, где их не было, уже нельзя. Дальше наши отношения с ИИ будут только углубляться.

Теперь он проверяет и сглаживает мои тексты, помогает в исследованиях и выполняет роль личного помощника. Но он по-прежнему не знает, как выглядит кухня моей мечты.

К какому выводу я пришла? Это не развод и не медовый месяц, а настоящее партнёрство: иногда полезное и выравнивающее условия, временами утомительное и всегда требующее бдительности.

ИИ пока не умеет заботиться. Ему всё равно, права я или нет. Он с одинаковой уверенностью будет отстаивать любую сторону и с одинаковой любезностью извинится за любую катастрофу. Я продолжаю сама думать, оценивать и развивать идеи, которые были и останутся моими.

Нравится нам это или нет, мы уже состоим в отношениях с ИИ. Нам нужно спрашивать себя не о том, вступать ли в них, а о том, сможем ли мы сохранять ясность внутри этих отношений — или позволим своему мышлению, знаниям и навыкам прийти в упадок.