Бристольские исследователи: медицина уже умеет работать с чёрными ящиками — ИИ может учиться

Медицинские ИИ-системы нередко хорошо проходят первые испытания, но затем теряют точность в клиниках. Причина в том, что они могут цепляться за особенности обучающих данных, не связанные с диагнозом.

Медицина сталкивается с похожей неопределённостью при работе с лекарствами, механизм действия которых в организме изучен не полностью. Тем не менее для таких препаратов разработаны процедуры, позволяющие применять их надёжно. Каждое лекарство сопровождается структурированным пакетом сведений: в нём указано, при каких условиях оно работает, включая дозировку, время приёма и подходящие группы пациентов. Именно этот пакет превращает химическое соединение в предсказуемую терапию.

Бристольские исследователи предлагают создать похожий пакет сведений и для разработчиков медицинского ИИ.

Инструмент из трёх частей

Предложенный подход Learning Ensemble охватывает три области, которые разработчики должны описать и проверить до начала применения системы на пациентах.

Авторы рассматривают свою работу как отправную точку. Создание надёжной медицинской ИИ-системы на практике по-прежнему требует длительных испытаний и исправлений, специальных знаний, внешней проверки и постоянной настройки. Предложенный фреймворк должен дать разработчикам общий язык и структуру, чтобы обнаруживать проблемы на более раннем этапе.