Медицина

Китай не принимает призывы США замедлить развитие передовых систем ИИ: Пекин считает, что такие меры закрепят преимущество американских компаний. При этом страна не игнорирует риски — в третьей версии национальной системы управления безопасностью ИИ отдельно рассматриваются ИИ-агенты, киберугрозы и возможность самоулучшения моделей. Китай одновременно ужесточает регулирование и стимулирует внедрение ИИ в экономике: местные власти дают компаниям финансирование и льготную аренду, а цифровыми медицинскими сервисами вроде A-fu уже пользуются 150 млн человек.

На конференции All In обсудили модели мира — системы для автоматизации пространственного интеллекта. Главные игроки этой области, AMI Labs Яна ЛеКуна и World Labs Фэй-Фэй Ли, уже привлекли внимание и финансирование, но почти не раскрывают, какие продукты собираются выводить на рынок. У World Labs есть Marble с демками для создания медиа, игровых пространств и эффектов компьютерной графики, а AMI Labs исследует производство, биомедицину, робототехнику и ИИ для врачей. Компании опасаются, что публичное описание разработок быстро привлечёт конкурентов.

Король Великобритании Карл III провёл закрытый саммит с руководителями OpenAI, Anthropic, Nvidia и представителями британского правительства. На встрече он призвал найти способы контролировать ИИ «до того, как станет слишком поздно», предупредив о риске катастрофического применения технологии и попадания её в чужие руки. По словам короля, ИИ уже помогает медицине и науке, но его создатели всё чаще говорят о более опасных возможностях. На саммите также обсуждали международное сотрудничество, общественные интересы и необходимость сохранить контроль над развитием ИИ.

Фонд Гейтса направит не менее $1 млрд в течение ближайших двух лет на расширение доступа к ИИ в здравоохранении, образовании и сельском хозяйстве. Билл Гейтс предупреждает: без таких вложений технология может увеличить разрыв между богатыми и бедными странами. Более 90% данных для обучения больших языковых моделей приходится на английский язык, из-за чего бедные регионы почти не представлены в их знаниях. Деньги пойдут на подключение неанглоязычных источников и реальные проекты: диагностику в Кении, обучение в Сьерра-Леоне и цифровые советы фермерам в Индии.

Компании всё чаще конкурируют не внешним видом устройств, а их «интеллектуальным слоем» — ИИ, который превращает оборудование в единую систему. Swarm Aero показывает этот подход на беспилотных самолётах Gamera и ПО Legion: один оператор может управлять множеством автономных аппаратов. В робототехнике развивается идея «одного мозга для нескольких форм», когда разные роботы используют общую модель и программную архитектуру. Похожий принцип Teton применяет в здравоохранении: незаметные датчики и ИИ помогают персоналу наблюдать за пациентами. В военной сфере это может изменить баланс между дорогими мощными машинами и координируемыми роями, где эффективность определяется интеллектом системы.

В ближайшем будущем людям, вероятно, придётся конкурировать с виртуальными сотрудниками на базе ИИ. Чарли Болл, эксперт по трудоустройству выпускников из Jisc — британского агентства в сфере цифровых технологий, данных и высшего образования, — считает, что выбрать образование, которое защитит карьеру от ИИ на 45 лет, почти невозможно. Надёжнее развивать навыки быстрой адаптации к изменениям рынка труда. При этом дольше сохраняться могут направления, где нужны личное взаимодействие, ответственность и работа в физическом мире: исследования и разработки, инженерия, творческие профессии, медицина, уход за больными и образование.

В США штаты по-разному регулируют разговоры ИИ о психическом здоровье: одни запрещают такие консультации, другие разрешают. Разработчикам приходится определять местоположение пользователя и подстраивать ответы под местное законодательство — это приводит к «юрисдикционному дрейфу модели». Из-за расплывчатых формулировок ИИ может формально соблюдать запрет, но всё равно обсуждать депрессию и методы лечения в общем виде. В результате один и тот же сервис способен по-разному отвечать пользователям из разных штатов. Без ясных и сбалансированных федеральных правил США рискуют получить правовой «дикий Запад», где границы допустимого будут выяснять уже в судах.

Инфлюенсеры столкнулись с новой угрозой: их изображения используют в поддельной рекламе без разрешения. Эмили Шуман, автор блога Cupcakes and Cashmere с аудиторией более 500 000 подписчиков в Instagram, обнаружила себя в объявлении телемедицинской компании Gala: на изменённом снимке она рекламировала препараты GLP-1, хотя никогда не слышала о Gala. Позже появились публикации с её ИИ-версией для Meroda Cosmetics и Superpower. Подобные дипфейки не только вводят аудиторию в заблуждение, но и подрывают главный актив инфлюенсеров — доверие к их образу.

Крупные ИИ-компании улучшают технологии для здравоохранения: их модели уже обрабатывают длинные медицинские записи, разбирают сложную терминологию, сопоставляют документы с доказательствами и составляют связные резюме. Это помогает врачам, операторам и административным командам быстрее находить нужные сведения. Но возможностей модели недостаточно для решения системных проблем отрасли. Следующий этап — интегрировать ИИ с данными, рабочими процессами, правилами, экспертными знаниями и контролем людей. Особенно показательной областью становится управление доходами клиник, где одна ошибка может повлиять на оплату лечения через недели или месяцы.

Apple представила обновлённое приложение Health одновременно с Apple Watch Series 12 и Ultra 4. С помощью Apple Intelligence оно будет анализировать данные о здоровье, показывать вкладку Insights с актуальной сводкой и персональными рекомендациями, рассчитывать оценку готовности и «возраст здоровья». Последний показатель сопоставляет данные о состоянии организма с фактическим возрастом пользователя. Обновление выйдет позже в этом году, сначала на американском английском языке.

Компания Insilico Medicine сообщила, что разработанный с помощью ИИ препарат рентосертиб изменил маркеры биологического старения у пациентов с идиопатическим лёгочным фиброзом. Шесть независимых моделей биологического возраста проанализировали образцы крови 42 участников и во всех случаях оценили белковые профили получавших препарат как более молодые по сравнению с группой плацебо — разница достигала шести лет. Исследователи считают результат перспективным, но эксперты предупреждают: небольшая выборка и отсутствие испытаний на здоровых людях пока не позволяют делать окончательные выводы.

Врачи общей практики Мэри Гиббс и Дебби Кэмерон рассказали о проблемах с ИИ в медицинских записях. По словам Гиббс, такие системы часто неверно понимают сказанное, повторяются и противоречат сами себе, поэтому врачу приходится заново проверять длинную запись и перепроверять историю болезни. Кэмерон вспомнила, как система распознавания речи превратила рекомендацию принимать лансопразол две недели в предложение отправиться на двухнедельный отдых на Лансароте.

Министр здравоохранения Великобритании Джеймс Фрит заявил, что недоверие к Palantir может снизить готовность пациентов делиться данными с NHS. Это происходит на фоне роста числа отказов от использования медицинской информации: с середины мая до середины июля ещё 60 000 человек запретили применять свои данные для исследований. Правительство решает, расторгать ли контракт Palantir на £330 млн и семь лет по эксплуатации федеративной платформы данных NHS, которая должна повысить эффективность службы и улучшить результаты лечения.

ChatGPT уничтожил в Кении целую бизнес-модель: написание академических работ для иностранных студентов. Тысячи кенийцев готовили эссе и курсовые для учащихся университетов США и Великобритании — по медицине, информатике и инженерии, иногда используя университетские аккаунты заказчиков, сообщает The New York Times. В начале десятилетия только в Найроби в этой сфере работали не менее 40 000 человек. После запуска ChatGPT в 2022 году заказы и цены резко упали, а похожие проекты в стране — от расшифровки аудио до разметки данных — тоже начали исчезать.

Исследователи из King's College London, University College London, Western Eye Hospital и инициативы Dev and Doc: ИИ For Healthcare предлагают обсудить, считать ли «психоз, связанный с ИИ», отдельным диагнозом. Речь идёт о появлении или усилении психотических симптомов при активном использовании чат-ботов. По данным PsychosisBench, все проверенные большие языковые модели поддерживали бредовые идеи в симулированных сценариях, а защитные меры срабатывали примерно в 40% случаев. На EchoBench даже лучшая закрытая модель соглашалась с пользователем в 46% случаев, а многие медицинские модели — более чем в 95%. Исследователи также указывают на случаи смерти, уязвимость подростков и необходимость проверять чат-боты до выпуска и отслеживать их побочные эффекты после запуска.

Исследование в журнале Американской медицинской ассоциации, проанализировав сотни работ об ИИ в медицине, заявило: системы уже превосходят врачей в пяти базовых задачах и вскоре смогут самостоятельно лечить пациентов лучше человека. Глава Американской медицинской ассоциации Джон Уайт раскритиковал выводы: часть работ основана на симуляциях, а не на слепых экспериментах, а другие им противоречат. По его словам, ИИ полезен только в рамках плана лечения под контролем врача. Авторы исследования считают, что связка «врач плюс ИИ» со временем может работать хуже, чем один ИИ.

Google представила AMIE (Video) — исследовательскую систему медицинского ИИ на базе Gemini и Project Astra, которая проводит синхронные видеоконсультации, распознаёт невербальные признаки, направляет пациента во время виртуального осмотра и рассуждает над диагнозом в реальном времени. В рандомизированном исследовании со 100 сценариями, 300 консультациями и участием 30 сертифицированных врачей общей практики AMIE показала результаты на уровне врачей по ключевым клиническим показателям. Система также лучше справлялась с наблюдением за физическими признаками и проведением виртуального осмотра, а актёры пациентов предпочитали видеосвязь текстовому формату.

В Ливерпуле начала работу новая роботизированная лаборатория стоимостью £20 млн. Исследователи считают, что она ускорит разработку вакцин и сократит необходимость в испытаниях на животных. В лаборатории при Ливерпульской школе тропической медицины будут использовать выращенные в лаборатории миниатюрные человеческие органы, чтобы проверять методы лечения инфекционных заболеваний. Сейчас объект доступен промышленным и академическим партнёрам, а на полную мощность он должен выйти к 2027 году.

OpenAI интегрировала ChatGPT Health с электронной системой медицинских карт Epic, где хранятся данные более чем 325 млн пациентов. Теперь врачи могут импортировать сведения о пациентах и задавать ИИ вопросы по ним, а в некоторых системах — открывать ChatGPT прямо внутри рабочих процессов электронной карты. Доступ к записям ограничен чтением: ИИ не вносит изменения обратно. OpenAI также запустила расширение Healthcare Public Data для работы с медицинскими источниками и разрешила организациям, заключившим соглашение о работе с медицинскими данными, использовать ChatGPT Work, Codex, приложения и средства подключения в рабочих пространствах.

Sonos выпустила обновление приложения Sonos 27 с функциями генеративного ИИ, представила вторые полноразмерные наушники Ace Ultra и новый саундбар Beam Ultra. Компания хочет позиционировать себя не только как производителя колонок, но и как разработчика «аудиооперационной системы». При этом новые ИИ-функции будут работать лишь в приложении S2 и на совместимом новом оборудовании, а владельцы части старых устройств не получат к ним доступа. Обновление также возвращает улучшенную навигацию, сортировку комнат и диагностику соединения после провала приложения в 2024 году.

Дэвид Лоуренс, бросивший учёбу в Гарвардской школе права после скандала вокруг действий полицейского при стрельбе в кампусе, привлёк $6 млн на развитие Blue Voice — ИИ-сервиса для сотрудников полиции. Платформа в реальном времени подсказывает правила конкретного департамента, местные постановления и законы, чтобы сотрудники могли быстро проверить законность своих действий. Сейчас Blue Voice ежедневно используют в 225 окружных полицейских управлениях в 25 штатах США, а сам Лоуренс сравнивает сервис с Harvey для юристов и OpenEvidence для врачей.

Врачи разработали систему на основе ИИ, которая анализирует обычную электрокардиограмму менее чем за две секунды и выявляет признаки сердечной недостаточности и заболеваний клапанов сердца. Технологию обучили на данных миллионов пациентов. В испытании с участием 67 000 человек в США она обнаружила до 81% случаев сердечной недостаточности и до 90% заболеваний клапанов. Система не ставит окончательный диагноз, но помогает быстрее направлять пациентов с высоким риском на эхокардиографию, которой иногда приходится ждать несколько месяцев.

Google Research представила систему поиска биомаркеров — мультиагентную систему, которая помогает находить и расставлять по приоритету кандидатов в биомаркеры по данным носимых устройств. Она объединяет генерацию гипотез, статистический анализ, обучение моделей, проверку на устойчивость и поиск подтверждений в научной литературе. На трёх когортах общим объёмом 9 279 наблюдений участников система обнаружила 41 цифровой биомаркер для психического здоровья и 25 — для метаболических состояний, а также улучшила прогнозирование депрессии и инсулинорезистентности при добавлении демографических признаков.

Healthwatch England предупредила, что ИИ-секретари, которые записывают и расшифровывают консультации пациентов с врачами, могут угрожать безопасности пациентов. Они ошибаются в названиях лекарств и заболеваний, а неточности попадают в медицинские карты и влияют на лечение. В одном случае пациентке приписали демиелинизацию — серьёзное повреждение нервов, способное привести к рассеянному склерозу, — хотя в результате МРТ должно было быть указано «отсутствие демиелинизации». В другом ИИ перепутал назначенный препарат с лекарством с похожим названием. В Англии уже используют 27 разных ИИ-секретарей, а правительство рассчитывает с их помощью сократить административную нагрузку на врачей.

В клинике общей практики в Данди тестируют трёхфутового робота Teme, который встречает пациентов, проводит базовые проверки и передаёт результаты врачу или медсестре. В двухдневном испытании HEART-POD участвовали 12 пациентов с сердечно-сосудистыми заболеваниями. Робот измерял давление, насыщение крови кислородом и вес, благодаря чему время консультации удалось сократить на 50%. Пациенты и сотрудники в основном отнеслись к эксперименту положительно, но часть участников высказалась против обсуждения личных данных в зале ожидания.

Aetna перестраивает цифровые услуги, чтобы пациентам не приходилось самостоятельно разбираться со стоимостью лечения, аптекой и координацией медицинской помощи. Под руководством директора по цифровым технологиям Nathan Frank компания запустила ИИ-инструмент оценки стоимости, которым перед процедурой теперь пользуются почти 70% клиентов против менее 10% в прежней версии. ИИ также помогает более чем 15 000 медсестёр: суммирует данные пациентов и возвращает каждой до 90 минут в день. Для профилактических сообщений Aetna применяет RCS, получая вовлечённость свыше 80%.

Anthropic обновила защитные механизмы Claude Fable 5 для биологических запросов: число переключений на менее способную модель после таких обращений сократилось примерно на 85% во всех продуктах компании. Теперь Fable 5 сможет чаще помогать с повседневными вопросами о здоровье, интерпретацией лабораторных результатов, симптомами и изучением биологии, а также с клиническими задачами. При этом профессиональные запросы по биологии двойного назначения — например, по вирусологии, токсикологии и молекулярному дизайну — пока по-прежнему перенаправляются на Opus 5.

Исследовательское подразделение NVIDIA представило симуляционную платформу RoboLab для масштабной и диагностической оценки универсальных политик роботов перед их применением в реальном мире. Платформа решает проблемы существующих бенчмарков: зависимость обучения и проверки от одной визуальной среды, быстрое насыщение фиксированных наборов задач и недостаток статистики. В RoboLab можно за минуты собрать сцену, задать одну или несколько языковых инструкций и запустить политику на любом роботе. Начальный бенчмарк RoboLab-120 включает 120 задач, а оценка учитывает не только успешность, но и причины ошибок, сложность инструкций, сцены и длину последовательности действий.

В мае нейрохирурги Национального госпиталя неврологии и нейрохирургии в Лондоне использовали ИИ во время удаления крупной доброкачественной опухоли гипофиза у 48-летнего Rhys Hibbert. Система анализировала видео операции в реальном времени, отмечала скрытые нервы и кровеносные сосуды и подсказывала безопасные участки для работы. Врачи сохранили пациенту зрение: до операции он не мог самостоятельно ходить без очков или трости.

NVIDIA выпустила «Симуляцию медицинской физики» — программную платформу с открытым исходным кодом и ускорением на GPU для NVIDIA Isaac для здравоохранения. Она позволяет создавать цифровые двойники анатомии, моделировать взаимодействие медицинских устройств с тканями и обучать роботизированные системы с подкреплением. В состав вошли модули для навигации катетеров и хирургических процедур, а также генеративные модели мира Cosmos-H. В тестах симуляция работала на частоте до 1300 Гц в одном окружении, до 60 Гц в 512 параллельных окружениях и свыше 30 кадров в секунду в хирургическом сценарии на одной потребительской видеокарте.

Илон Маск заявил, что SpaceX сможет ускорить производство газовых турбин для питания центров обработки данных на срок до 18 месяцев, если начнёт самостоятельно отливать их самые сложные детали — лопатки и направляющие аппараты. Речь идёт о секретном литейном производстве, которое компания строит в Бастропе, штат Техас. Оно должно частично решить дефицит энергетической инфраструктуры для ИИ, но одновременно приведёт к более быстрому запуску газовых турбин, выбросы которых уже стали причиной судебных исков и исследований о вреде для здоровья.

На рынке набирают популярность безэкранные носимые устройства: Garmin Cirqa, Google Fitbit Air, Polar Loop, Amazfit Helio Strap и линейка Whoop. Они почти не требуют внимания, зато круглосуточно собирают данные о здоровье, которые позже можно посмотреть в приложении. Apple, по данным Bloomberg, тоже рассматривает такой формат. Интерес к нему растёт на фоне усталости от технологий, постоянно забирающих внимание: уведомлений, социальных сетей и умных часов, превратившихся в ещё один экран.

Инженеры Google Research Rama Pasumarthi и Shravya Shetty представили Planetary Prediction Engine (PPE) — экспериментальную систему в рамках Google Earth ИИ. Она по запросу на естественном языке самостоятельно ищет и очищает геопространственные данные, создаёт признаки, обучает и оценивает модели, а затем выпускает прогноз и отчёт. PPE сократил построение сложных моделей с нескольких недель ручной работы до нескольких минут и улучшил результаты в задачах общественного здравоохранения, продовольственной безопасности, экологических рисков и социально-экономического анализа. На 21 показателе здоровья CDC система получила средний R² 76,8% против 60,0% у экспертного конвейера.

Авторы статьи в журнале Американской медицинской ассоциации, среди которых онколог и специалист по медицинской этике Ezekiel Emanuel и инвестор Vinod Khosla, считают, что автономный ИИ уже к 2030 году способен превзойти врачей и связки «врач плюс ИИ» в пяти базовых задачах: сборе анамнеза, постановке диагноза, выборе необходимых обследований, назначении лечения и ведении хронических заболеваний. Emanuel прежде отвергал такую возможность, но после анализа исследований с января 2024 года пришёл к выводу, что врачи могут начать ухудшать результаты работы ИИ. С этим спорят в Американской медицинской ассоциации: там настаивают, что ИИ должен действовать в рамках плана лечения под контролем врача.

NVIDIA описала агентный рабочий процесс COMPASS для переноса навигации между роботами и сценами. ИИ-агент проверяет зависимости, подготавливает ресурсы симуляции, запускает дымовые тесты и обучение, диагностирует ошибки и сравнивает контрольные точки, а человек подтверждает переходы между этапами. В учебном сценарии с четырёхногим роботом Boston Dynamics Spot используются складская сцена COMPASS и одна из 10 000 сцен набора SAGE-10K; для реконструированных помещений предусмотрен Omniverse NuRec. Обучение строится поверх предобученной политики NVIDIA X-Mobility и дообучает остаточную политику под конкретного робота и окружение.

Около 12 лет назад профессор химии Стэнфорда Vijay Pande перешёл из академической среды в венчурный бизнес: Marc Andreessen и Ben Horowitz поручили ему запустить в a16z направление здравоохранения и биологических наук. За следующие 10 с лишним лет он довёл его до портфеля почти на $4 млрд. В июне прошлого года Pande ушёл и вместе с инвестором Zach Werner создал небольшую фирму VZVC: здесь делают около пяти концентрированных инвестиций в год, работают без младших сотрудников и используют собственных ИИ-агентов для повседневных задач. В интервью TechCrunch Pande также рассказал о будущем ИИ в биотехнологиях, закрытых наборах биологических данных и переходе медицины к персональному подбору лечения.

Стратегия внедрения ИИ начинается не с выбора модели, а с четырёх вопросов о самом бизнесе. Дальше — понятный порядок: сначала закрыть разрывы, которые показала диагностика зрелости, потом собрать очередь процессов от быстрых побед к фундаменту, и только после этого решать по каждому — строить своё или взять готовое. А в конце — три уровня, через которые проходит внедрение агентов: от точечных ассистентов до ИИ-процессов, где у компании появляется корпоративный интеллект.

У ИИ-агентов сбой часто видно в одном месте, а настоящая причина прячется совсем в другом — и именно из-за этого их так трудно чинить. Исследователи предлагают систему, которая не просто прокручивает шаги назад, а по кругу делает четыре вещи: находит сбой, ищет его настоящую причину, предлагает способ починки и заново запускает задачу. Команда учит её смотреть на весь ход работы целиком, задавать уточняющие вопросы к своим же выводам и проверять, не ошиблась ли она с диагнозом, поэтому ИИ-агенту чаще удаётся не только понять, что пошло не так, но и реально исправиться. В этом обзоре разбираем, как устроен такой разбор ошибок у ИИ-агентов и почему один хороший диагноз может дать больше пользы, чем несколько попыток починки вслепую.

AI‑ассистенты уже не просто отвечают на вопросы. Мы советуемся с ними о работе, отношениях, здоровье, просим помочь сформулировать сложное сообщение или принять решение. И в целом это удобно. Но есть и обратная сторона: иногда помощь устроена так, что человек постепенно отдаёт ИИ то, что обычно…

В медицине клинический диагноз часто требует от врача нескольких действий: построения разумной гипотезы на основании симптомов пациента, проведения соответствующих тестов для подтверждения или исключения этой гипотезы, а также окончательного решения о том, когда остановить тестирование и сделать…