Dr Маша: MedSignal AI Club

Мы, кажется, слишком долго учили AI давать правильные ответы. Следующая задача сложнее: научить его понимать, когда ответа недостаточно для действия. Oб этом вышла моя новая статья в Unite.AI — международном AI-издании, которое читают на стыке research, tech и industry. Статья формально про FemTech. Но на самом деле, про одну из главных проблем всего health AI. Мы очень долго оптимизировали prediction. Sensitivity. Specificity. AUROC. Calibration. Confidence scores. Но в реальном медицинском продукте prediction - это только середина цепочки. После того как модель сказала «вероятность 72%», возникает гораздо более важный вопрос: что системе теперь разрешено сделать? 72% может быть достаточно, чтобы предложить повторить измерение завтра. Недостаточно — чтобы отменить визит к врачу. И совсем другая планка нужна, если ошибка меняет лечение, влияет на репродуктивное решение или создаёт ложное ощущение безопасности. То есть качество AI-системы нельзя оценивать отдельно от стоимости ошибки и последующего действия. И тут начинается более интересная инженерия. Например, два одинаковых confidence score могут означать совершенно разное качество знания. В одном случае у системы год стабильных данных, хороший baseline и все входные сигналы согласованы. В другом — три измерения, пропуски, jet lag, болезнь и пользователь, который только вчера начал носить устройство. Интерфейс может показать одинаковые «78%». Но эпистемологияески это две разные вселенные. Поэтому следующий слой health AI — не просто лучше предсказывать. Он должен уметь различать: 🔵uncertainty модели — насколько неоднозначен сам вывод 🔵uncertainty данных — достаточно ли вообще информации 🔵и decision uncertainty — достаточно ли этого знания для конкретного действия. Это три разные проблемы. Мы пока часто схлопываем их в одно красивое число. Есть ещё один парадокс. Мы обычно воспринимаем отказ AI отвечать как недостаток системы. В медицине всё может быть наоборот. Способность сказать: «данных недостаточно», «я вышел за область, на которой был валидирован», «цена ошибки здесь слишком высока», «нужен человек» — может быть признаком более зрелой системы, чем ещё один уверенный prediction. Это называется abstention: система сознательно не принимает решение, когда ожидаемая надёжность недостаточна. И, на мой взгляд, это одна из самых недооценённых product capabilities в healthcare AI. Потому что хороший медицинский AI должен оптимизировать не количество ответов, а качество решений во всей системе человек + данные + модель + workflow. И здесь меняется сама единица качества. Не:«насколько точна модель?» А:«насколько хорошо система управляет переходом от неопределённого знания к реальному действию?» В статье я называю это переходом from prediction to accountable action. И мне кажется, именно здесь сейчас находится одна из самых интересных границ medical AI. 📎Статья в Unite.AI: https://www.unite.ai/femtech-ai-uncertainty-design/

🥳 Друзья, завершилась трёхнедельная программа MedSignal AI — и она превзошла мои ожидания почти во всём. 🔵120 участников с очень сильной экспертизой в медицине и IT 🔵11 живых встреч со спикерами, чаще всего по два часа и больше 🔵12 отдельных видеоуроков 🔵Практика, гайды, плагины, материалы и готовые решения на GitHub Мой внутренний перфекционист редко бывает по-настоящему доволен. Но здесь даже он немного растерялся — и, кажется, вдохновился. У меня самой после программы осталось много инсайтов, которыми буду постепенно делиться. Один из модулей был посвящён внедрению ИИ в бизнес и клинические процессы. Прикрепляю презентацию моего выступления, а ниже — главные тезисы о том, что в клинике действительно стоит автоматизировать и как не ускорить хаос. (см. предыдущий пост выше 👆)

🥺Худший способ внедрить ИИ в клинике Начать с вопроса: «Куда нам встроить ИИ?» Правильный вопрос другой: Где клиника теряет время, деньги, внимание сотрудников или качество помощи? ИИ не исправляет процесс. Он усиливает то, что уже есть. Хороший процесс станет быстрее. Плохой начнёт производить хаос в промышленных масштабах. 📎Что автоматизировать первым Обычно не самые эффектные задачи: 🔵запись и подтверждение визитов; 🔵ответы на типовые вопросы; 🔵сбор и проверку документов; 🔵обработку обращений; 🔵транскрибацию; 🔵черновики выписок; 🔵поиск и сверку данных в карте. Хороший кандидат: 🔵часто повторяется; 🔵работает по понятным правилам; 🔵имеет контролируемую цену ошибки; 🔵освобождает действительно ценное время; 🔵позволяет измерить результат до и после. 📎Что автоматизировать рано Не стоит начинать, если: 🔵каждый сотрудник выполняет процесс по-своему; 🔵процесс постоянно меняется; 🔵у него нет владельца; 🔵ошибку сложно заметить; 🔵система влияет на клиническое решение без строгой проверки. 📎Сначала стандартизация. Потом автоматизация. Главная ловушка Автоматизировать отдельное действие, но не весь путь. ИИ создаёт запись. Врач её проверяет, копирует в другую систему, исправляет форматирование и добавляет пропущенные поля. Формально ИИ внедрён. Фактически появилась новая работа. Считать нужно не минуты, которые сэкономила модель, а время всего процесса: проверку, исправления, интеграции и разбор исключений. Система может хорошо обрабатывать 90% случаев, но оставшиеся 10% съедят весь эффект. 📎Готовый сервис VS своя разработка Типовые задачи обычно разумнее закрывать готовыми решениями. Своя система оправдана, если процесс уникален, стратегически важен, имеет большой объём и клиника готова поддерживать продукт годами. Чаще всего оптимальна гибридная модель: готовые сервисы для стандартных функций, собственная логика и данные внутри клиники. 📎Как запускать Не нужна AI-стратегия на сто страниц. Нужны: 🔵один ограниченный сценарий; 🔵исходные метрики; 🔵реальные пользователи; 🔵критерии успеха и остановки; 🔵оценка качества, времени, экономики и рисков. Закрыть неудачный пилот не провал. Провал — продолжать его только потому, что уже вложились. Искать нужно не применение для ИИ. Искать нужно узкое место клиники. Хорошая автоматизация забирает повторение, но не создаёт новую работу и не размывает ответственность. —— Чуть нагляднее-в прикрепленной презентации 👆

🧪 97% на медэкзамене. И это только первый этаж медицинского ИИ Я собрала в одну карту почти 30 свежих исследований и бенчмарков из 14 научных журналов, лабораторий и репозиториев: Nature Medicine, Lancet, NEJM AI, JAMIA, Stanford и других. Картина впечатляет: 97,4% на медицинском экзамене MedQA. 55–60% в открытой диагностике без вариантов ответа. 46% в PhysicianBench, где агент изучает реальную электронную карту, рассуждает, выполняет действия и делает в среднем 27 обращений к инструментам на одну задачу. ([Nature][1]) Это лестница автономности. Сначала модель демонстрирует знания. Затем ставит диагноз в условиях неопределённости. Следующая ступень: самостоятельно найти нужные данные, собрать историю пациента, выбрать инструменты, выполнить клинические действия и оформить результат. На отдельных задачах ИИ уже превосходит врачей. В рандомизированном исследовании симулированных приёмов AMIE показала более высокую диагностическую точность и получила лучшие оценки по 30 из 32 клинических критериев. В HealthBench Professional система на базе GPT-5.4 набрала больше баллов, чем ответы профильных врачей. ([Nature][2]) Причём научные публикации выходят медленнее, чем обновляются модели. Часть исследований уже тестирует предыдущие поколения. Поэтому эти цифры скорее моментальный снимок быстро растущей технологии. И ещё важное: здесь измеряется преимущественно клиническое мышление. Огромный ближайший эффект ИИ лежит в другом слое: документации, выписках, кодировании, сообщениях, маршрутизации пациентов и работе с медицинскими данными. В исследовании 263 специалистов после месяца работы с AI-скрайбом доля участников с признаками выгорания снизилась с 51,9 до 38,8%. Одновременно уменьшились когнитивная нагрузка и работа с документами после приёма. ([JAMA Network][3]) ИИ уже набрал достаточно медицинского интеллекта, чтобы менять здравоохранение. Следующий скачок произойдёт, когда этот интеллект станет инфраструктурой, а врач снова получит самый дефицитный ресурс: внимание к человеку. 📎Я постаралась собрать всё в одном месте. Полный обзор с исследованиями, бенчмарками и ссылками на первоисточники прикрепила в предыдущем сообщении. ————— [1]: https://www.nature.com/articles/s41591-026-04431-5?utm_source=chatgpt.com "General-purpose large language models outperform specialized ..." [2]: https://www.nature.com/articles/s41586-025-08866-7 "Towards conversational diagnostic artificial intelligence | Nature" [3]: https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2839542?utm_source=chatgpt.com "Use of Ambient AI Scribes to Reduce Administrative ..."

🚀Сегодня стартует программа про AI и медицину. Главная мысль, с которой мы начинаем: персональные медицинские AI-ассистенты уже работают напрямую с людьми — часто без клинического надзора и без понятной ответственности. Проблема не в том, что AI “даёт советы”. Проблема в том, что эти советы уже влияют на реальные решения о здоровье. И врачам, и пациентам придётся научиться жить в этой новой системе. Врач — не конкурент AI-агента. AI-агент — не замена врачу. Сильная модель будущего — когда пациент лучше собирает свои данные, а врач помогает мыслить клинически и принимать решения точнее. В программе будем разбирать это практически: — как обезличивать и готовить медицинские данные — как собрать личную AI-систему здоровья — как работать с анализами, выписками, симптомами, дневниками и wearable-данными — как проверять ответы нейросетей и не ловить красивые галлюцинации — как AI уже внедряют в клиниках — как врачи используют AI в работе — как строить маркетинг и процессы с агентами Формат: 3 недели, онлайн-встречи 3 раза в неделю В закрытом чате будут записи, материалы, шаблоны и обсуждения. И состав участников уже очень сильный — я правда в трепете и восторге от того, кто собрался внутри. 🖇️ Сегодня последний день присоединиться Повтора программы в обозримом будущем не планируется. Регистрация: https://t.me/ai_med_reg_bot

Делюсь записью открытой встречи. Позже в комментариях добавлю артефакты, которые упоминали. Очень рада, что столько людей смогли присоединиться вживую. Встреча получилась плотная, честная и, кажется, очень полезная для тех, кто ещё присматривается к программе и к нейронкам вообще 😄. Разбирали, как не быть обманутыми AI-системами в медицине: где модели уверенно ошибаются, как проверять ответы, как работать с исследованиями и почему в медицине нельзя слепо доверять красивому выводу нейросети. Участвовали 4 спикера программы. Заодно подробно поговорили про саму конференцию MedSignal AI: для кого она, что будет внутри, как устроены практические занятия и какие навыки останутся с вами после программы. Если у вас ещё были вопросы — думаю, запись хорошо их закрывает. 🚀9 июля стартует первое практическое занятие, поэтому сейчас буквально последний момент присоединиться. Регистрация тут: https://t.me/ai_med_reg_bot

Друзья! Встречаемся на бесплатном звонке уже через 30 минут — в 16:00 по Москве. Ссылка придёт в бота. Звонок проведут 4 спикера MedSignal AI — каждый со своим взглядом на медицину, здоровье и ИИ. Поговорим о том, почему нейросети иногда так уверенно врут, как не попадаться на их убедительность и как использовать их с пользой, а не на авось. Также можно будет задать вопросы о программе, которая стартует уже послезавтра. На программе будем говорить честно: про врачей, которые уже используют ИИ в работе, хотя местами это серая зона; про пептиды — такого Волан-де-Морта современной медицины (которого нельзя называть); про пользу, риски, этику и цену ошибки. Я не буду обещать, что за три недели вы «поймёте всё про ИИ». ИИ- это динамически развивающаяся история, а инструменты ИИ меняются. Но вы попробуете сами актуальные инструменты и научитесь главному — правильно думать при работе с нейросетями, особенно в вопросах здоровья, данных и медицинских решений. Присоединяйтесь. Такую большую программу на русском повторять не планирую. https://t.me/ai_med_reg_bot

⤴️Приходите завтра на бесплатную встречу (предыдущий пост)! Так же делюсь подробностями программы конференции MedSignal AI: расписание, темы. До старта осталось всего 3 дня. Повторять подобную программу с практикой и с таким звездным составом на русском, не планирую. Я сама немного в шоке, от того объема и глубины, который получился. 📅 9–31 июля, онлайн. Подробности тут: https://t.me/ai_med_reg_bot

Как не быть обманутыми стохастическими системами, которые мы называем искусственным интеллектом? Друзья, делаю открытую практическую встречу на тему, вокруг которой сейчас очень много вопросов. Проведём её вместе со спикерами программы: Еленой Дегтярь — PhD (Doctor of Philosophy), биологом и исследователем, экс-сотрудником Max Planck Institute; и Ольгой Маркес — основательницей SEKTA и founder; AI Agency Евгением Ридом — серийным предприримателем и специалистом на пересечении технологий, инвестиций и права. Поговорим о сложном: как ориентироваться в мире противоположных мнений врачей, противоречивых исследований и уверенных ответов AI, которые иногда оказываются ложными. Почему нейросеть может придумать не только ответ, но и убедительно подкрепить его ссылкой на несуществующее исследование? Спойлер: не со зла 😈) Просто нужно понимать несколько базовых принципов работы этих систем — и знать, как их направлять и проверять. На практике разберём плагины, AI-агентов, агентные системы и skills: какие инструменты действительно подходят для медицинских задач, поиска исследований, проверки достоверности данных и анализа противоположных мнений. Будем учиться не попадать под гипноз уверенного AI-ответа — и при этом извлекать из этих систем максимум пользы для своего здоровья, здоровья близких и пациентов. 7 июля, вторник 16:00 - 17: 00 (по московскому времени) 🎁В конце встречи у меня будет для вас подарок. Ссылка на всттечу придет завтра в бот. Добавить встречу в календарь - открыть файл, который прикреплен к этому посту.

🅰️ Наконец-то финально собрала программу MedSignal AI. Получилось насыщенно, но я выстроила её так, чтобы обучение шло постепенно и логично, без перегруза длинными сессиями. И, честно, очень довольна тем, как вышло 😎 Программа построена как маршрут: от личных данных о здоровье к медицинскому мышлению, AI-агентам, клиническим процессам и медицине будущего. ·2⃣🅰️ спикеров · 1️⃣1️⃣ стран · 8️⃣ учёных (PhD / к.м.н.) · 6️⃣ врачей · 4️⃣ руководителя крупных клиник и сетей · 1️⃣5️⃣ фаундеров и предпринимателей (с экзитами, Y Combinator, Stanford, NYU, Duke). Формат: практические занятия и выступления спикеров с демо (3 раза в неделю, 10 встреч total) Что получаете: шаблоны, гайды и готовые скиллы, схемы и часть готовых модулей с нашего GitHub, чтобы применить сразу. И самое главное- понимание как самим строить системы здоровья и использовать инструменты ИИ. 📍Маршрут: 🔵 Личная HealthOS. Как собрать свои анализы, симптомы, трекеры и дневники в понятную систему с ИИ- Мария Куликовская 🔵Принципы безопасности, приватности и правовых ограничений работы с медданными в технологиях. Евгений Рид покажет, как строить архитектуру систем агентов для задач с высокой ценой ошибки и проверять достоверность. 🔵 Научное мышление. Наталия Воробьёва, Елена Дегтярь и Дмитрий Шаменков: как искать источники, проверять данные, не вестись на уверенные, но пустые ответы и нейронки. Баланс с mental health. 🔵 Врачебный взгляд. Как давать AI медицинский контекст: симптомы, динамику, анализы, препараты, историю. Кардиолог Марина Орлова и Ирина Зеленкова — спортивный врач, один из ведущих в мире учёных по гипоксии. 🔵 Здоровье как система (принцип во многом универсален и для мужчин): гормоны, нутрициология, сон, энергия, привычки. Как из хаоса собрать наблюдаемые паттерны. С Надеждой Андреевой, Екатериной Кирилловой, Кирой Глушковой и Тоней Жуковой. 🔵 AI-агенты и длинная память. Всеволод Устинов, сооснователь и CEO Plurio и один из самых сильных людей по AI-агентам, кого я знаю, покажет персонального AI-коуча. 🔵 Клиники и внедрение AI. Руководители крупных клиник расскажут, что из AI уже приживается (диагностика, контроль качества, документация, patient journey), а что пока лишь красивая презентация. 🔵 Longevity и пептиды. Ксения Бутова: как устроена longevity-клиника и новые направления в мед-бизнесе. Анастасия Куренкова: как через AI отличать данные от маркетингового дыма в пептидах и хайповых протоколах. 🔵 Медицина будущего. Включение в систему данных о генетики для глубокой персонализации- Ольга Маркес. Дмитрий Мацкевич и Илья Мутовин: как строить тех-продукт для медицины будущего — агент пациента, агент врача, автоматизация сбора и передачи контекста между ними и новые сценарии взаимодействия. 🔵 HealthTech маркетинг. Екатерина Резникова, фаундер HealthTech-компании в США, покажет, как автоматизировала отдел маркетинга целиком на AI-агентах; особенности медицинского маркетинга. К финалу вы соберёте свою версию системы: для личного здоровья, практики, ресёрча или health-проекта. 📅 9–31 июля, онлайн. Регистрация доступна последнюю неделю. Подробности тут: https://t.me/ai_med_reg_bot