Американская медицинская ассоциация оспорила вывод статьи: ИИ уже превосходит врачей

Что утверждает исследование

Опубликованная в этом месяце работа в журнале Американской медицинской ассоциации обобщила результаты сотен исследований ИИ в медицине. Авторы — известный биоэтик Эзикьель Эмануэль и венчурный инвестор Винод Хосла — пришли к выводу, что ИИ уже стал необходимым инструментом для поддержки врачей, а во многих случаях начал их превосходить. В будущем, утверждают они, ИИ сможет самостоятельно заботиться о пациентах лучше, чем врач-человек.

Авторы отдельно заявляют, что в когнитивных медицинских задачах лечение с помощью одного ИИ, вероятно, окажется эффективнее работы только врача или совместной работы врача и ИИ.

С таким выводом согласны далеко не все медики. Один из главных критиков исследования — сам Джон Уайт, генеральный директор Американской медицинской ассоциации.

По словам Уайта, некоторые включённые в обзор работы были симуляциями, а не слепыми экспериментами — стандартом для медицинских исследований. Кроме того, отдельные публикации противоречат выводам авторов. В качестве примера он привёл статью в Nature от февраля: её авторы выяснили, что большинству пациентов было трудно общаться с ботами, чтобы получить необходимые медицинские рекомендации.

Уайт признал потенциал таких инструментов, но подчеркнул: их следует использовать только в рамках плана лечения, которым руководит врач.

Пять задач для ИИ

Авторы спорного исследования связывают свои выводы с быстрым развитием больших языковых моделей после публичного запуска ChatGPT в ноябре 2022 года. Несмотря на сравнительно недавнее появление этой технологии, они считают, что ИИ уже превосходит врачей в пяти базовых задачах.

Среди них авторы называют:

В источнике перечислены четыре из пяти задач.

Разрыв между врачами и ИИ, по прогнозу исследователей, будет увеличиваться: ИИ «быстро улучшается», тогда как врачи сами теряют часть навыков, полагаясь на те же модели.

Эмануэль пояснил Wired, что авторы делают прогноз на четыре года вперёд. По его словам, трудно представить, что к тому времени ИИ не станет намного развитей врача.

Когда врач мешает ИИ

Следуя этой логике, авторы приходят к ещё более спорному выводу: врачам не стоит вмешиваться в работу ИИ. В исследовании утверждается, что связка человека и ИИ фактически ухудшает результат по сравнению с одним ИИ.

Авторы добавляют: по мере улучшения ИИ присутствие человека в процессе, вероятно, будет ухудшать качество медицинской помощи.

В этом тезисе есть доля правды. Потеря навыков из-за зависимости от ИИ уже происходит: опытные врачи предупреждают, что студенты-медики активно полагаются на такие инструменты. Впрочем, сами врачи делают то же самое. Внутренние данные бота OpenEvidence с ИИ, созданного специально для клиницистов, показывают, что инструментом пользуются около двух третей врачей в США.

Тем временем новые применения ИИ в медицине появляются почти каждый день. На прошлой неделе команда нейрохирургов из Великобритании сообщила, что использовала инструмент с ИИ, который помогал врачам во время операции по удалению опухоли мозга у пациента.

Человек пока остаётся в цепочке

Роберт Уочтер, руководитель медицинского направления в Калифорнийском университете в Сан-Франциско и друг Эмануэля, считает, что сейчас люди и ИИ работают лучше вместе. Однако в будущем, по его словам, могут возникать ситуации, когда человек будет ухудшать результат.

При этом Уочтер подчеркнул, что врачи всегда будут незаменимы. Идею о том, что ИИ автоматизирует работу врачей, он назвал «заблуждением о швейцаре» — страхом, что после появления автоматических дверей швейцары станут не нужны.

Швейцары, однако, сохранились: они принимают посылки и создают атмосферу гостеприимства, которую не может обеспечить автоматическая дверь. Представление о том, что высококвалифицированные врачи, годами осваивающие профессию, превратятся в статусное украшение вроде швейцара, должно звучать успокаивающе, но выглядит сомнительно.

Как рушатся громкие заявления

Громкие заявления сторонников ИИ часто вызывают критику. Например, представители ИИ в образовании объявили о победе после выхода широко обсуждаемого исследования, которое пришло к выводу, что ChatGPT может значительно улучшать результаты обучения.

Позже издатель Springer Nature отозвал эту работу, обнаружив серьёзные несоответствия в её анализе.