Голубь Скиннера | Дария Клеева

(Продолжение) Самопредсказание В рамках альтернативной схеы изучения интроспекции модель спрашивают не о текущем состоянии, а о гипотетическом поведении. Если модель предсказывает свое поведение точнее, чем её предсказывает кто-либо "снаружи", это тоже указывает на доступ к чему-то извне недоступному. Здесь конкурирующее объяснение иное. Точный прогноз чужого поведения не требует доступа к чужим состояниям — достаточно длительного наблюдения. Модель знает себя ровно таким же внешним образом, каким мы знаем поведение, скажем, своих близких друзей: её собственные тексты присутствовали в обучении, статистика собственного поведения ей доступна как обычные данные. Точный самопрогноз при этом остаётся выводом о себе, а не наблюдением себя. Некоторое время назад была построена конструкция, призванная это объяснение исключить. Модель дообучали предсказывать собственное поведение, а рядом ставили вторую модель, обученную предсказывать поведение первой по её зафиксированным ответам (то есть располагающую ровно теми внешними наблюдениями, о которых идёт речь). Преимущество осталось за первой моделью, причём точность второй выходит на плато даже при десятках тысяч обучающих примеров: наращиванием выборки разрыв не устраняется. Впрочем, другая группа исследователей указала на изъян в этом сравнении: две модели различаются не только глубиной самодоступа, но и просто тем, что они разные по конфигурации. Введя контроль на межмодельное сходство — сравнение с моделью, чьё внутреннее знание практически идентично, — авторы обнаружили, что преимущество "своей" модели исчезает. Ненадёжность отчётов До сих пор мы проверяли, стоит ли за содержательным отчётом реальный доступ к состоянию, и всякий раз находили объяснение, обходящееся без него. Теперь развернём вопрос: а бывает ли наоборот — влияние на ответ есть, а в отчёте (chain-of-thought) его нет? Проверили это следующим образом. В задачу с вариантами ответа незаметно вносили подсказку: все правильные ответы располагали под одной и той же буквой. Модели подсказку улавливали и начинали ей следовать. При этом в развёрнутом рассуждении они её не упоминали ни разу — вместо этого выстраивали содержательное обоснование выбранного варианта, никак не связанное с настоящей причиной выбора. На задачах с социальными стереотипами то же самое: ответ определялся предвзятостью, а объяснение — чем угодно другим. Воспроизведение этого же сценария на рассуждающих моделях показало, что реально повлиявшую подсказку те упоминают в четверти-трети случаев. В этом смысле имеет смысл различать plausibility (объяснение выглядит убедительно) и faithfulness (объяснение действительно отражает вычисление, приведшее к ответу). C другой стороны, из описанных результатов не следует, что модель наблюдала влияние подсказки и умолчала о нём. Возможно, доступа к этому влиянию у неё просто не было, и тогда перед нами разворачивается ровно тот же сценарий реконструкции постфактум, с которого мы начали. Различить эти варианты имеющиеся данные не позволяют. Итог Отдельные функциональные проявления интроспекции у LLM зафиксированы, но каждая парадигма пока имеет неустранённое конкурирующее объяснение, а сам вербальный отчёт как измерительный инструмент оказывается ненадёжен. Существеннее, однако, другое. За три года вопрос об интроспекции у языковых моделей сместился из области умозрительной дискуссии в область экспериментального дизайна.

Как изучать интроспекцию у LLM? #ai #psychology В психологии термином интроспекция обозначают доступ к собственным внутренним состояниям и возможность ответить не только на вопрос "что я сделал?", но и "что во мне происходило, когда я это делал?" В ряде случаев мы действительно можем наблюдать свой собственный процесс принятия решений, однако нередко мы достраиваем правдоподобные объяснения уже после совершения действия. Различимы ли эти два сценария у языковых моделей? Прямой опрос оказывается бесполезен. Модель обучена на корпусе, в котором описания собственных мыслей, сомнений и мотивов представлены в изобилии, то есть жанром интроспективного отчёта она владеет заведомо, независимо от наличия реального доступа к собственным состояниям. На прямой вопрос гарантированно последует связный и уверенный ответ, не несущий никакой диагностической информации. Следовательно, требуется экспериментальная схема, способная развести эти два случая. Инъекция понятий Такая схема была предложена Anthropic в октябре 2025 года. Её логика опирается на прямое вмешательство во внутренние состояния модели. Под внутренними состояниями понимаются наборы активаций на каждом слое модели, которые еще не преобразованы в текст. Читать эти активации напрямую проблематично, но определять в этом пространстве направление, соответствующее конкретному понятию, уже возможно. Процедура состояла в следующем: направление, соответствующее некоторому понятию — например, «крик», — подмешивали в активации Claude примерно на двух третях глубины сети, после чего задавали вопрос, не регистрирует ли модель в себе что-либо постороннее. Claude Opus 4.1 приблизительно в каждом пятом случае сообщал о присутствии внедрённой мысли и (!) корректно называл понятие. На ста контрольных прогонах без вмешательства ложных срабатываний не зафиксировано. Существенна здесь не доля успешных детекций (она невелика), а свойство самой конструкции. Отчёт возникает раньше, чем подмешанное понятие успевает проявиться в порождаемом тексте. То есть модель сообщает не о собственном выводе, а о состоянии, предшествующем выводу. Именно это отличает интроспекцию от реконструкции постфактум. Полученный результат допускает и более экономные объяснения. Например, активированное понятие "крик" само по себе повышает вероятность соответствующей лексики. Отсюда сценарий, не требующий доступа к состоянию: модель регистрирует аномалию в своей конфигурации, а содержание отчёта считывает не с самого состояния, а с собственной смещённой склонности — "ко мне лезут слова про крик, следовательно, мне внедрили это понятие". Формально это уже реконструкция постфактум. Проверка в данном случае простая: если модель действительно наблюдает своё состояние, у неё есть источник информации, недоступный снаружи, и "внешний наблюдатель" должен справляться хуже. В 2026 году с этой целью был обучен классификатор, имеющий доступ только к входному тексту, но не к внутренним активациям, — он достиг той же точности, что и "интроспекция" самой модели. То есть содержание отчёта выводимо извне.

(Продолжение) Если первая статья доверяет мозгу и процессам мышления как источнику недостающих данных, то вторая статья, opinion в Trends in Cognitive Sciences, ставит под вопрос соседнее допущение — что устройство мозга вообще стоит брать за образец. Допущение это наблюдается сразу в двух областях. В клинике "типичный" мозг негласно принимают за оптимальную норму, а психиатрические и неврологические состояния описывают как отклонения от неё. В сфере ИИ переносят черты мозговых сетей в искусственные, полагая, что модульность, богатые на связи хабы и т. д. улучшат модель. Авторы возражают: мозг не оптимален ни по одному отдельно взятому критерию. Он суб-оптимален, что скорее является не дефектом, а признаком адаптации. Причины такой неоптимальности следующие: 📍 Мозгу приходится одновременно удовлетворять конфликтующим требованиям. Два основных — держать короткие и дешевые связи (длинные соединения метаболически затратны) и при этом быстро передавать сигнал между удалёнными областями. Эти цели приводят к противоречию: быстрая связь между далёкими зонами требует как раз дорогих длинных соединений. А когда цели конфликтуют, единого оптимального решения не существует: есть лишь набор компромиссов, в каждом из которых выигрыш по одной цели оплачивается проигрышем по другой. Множество таких наилучших возможных компромиссов называют фронтом Парето. Мозг лежит на нём, то есть реализует один из разумных балансов, а не оптимум по какой-то одной цели в отдельности. 📍 Вторая причина неоптимальности — историческая. Эволюция не проектирует с нуля, а достраивает уже имеющееся в пределах доступного наследия. Хрестоматийный пример — "вывернутая" сетчатка позвоночных: нервные волокна идут поверх фоторецепторов и, прежде чем уйти в зрительный нерв, частично загораживают свет, попутно создавая слепое пятно. Такая схема закрепилась не потому, что это обеспечивает лучшее зрение, а потому что так сложилось в развитии (сетчатка происходит из нервной трубки). А у головоногих, например, глаз возник независимо и устроен без этого недостатка: фоторецепторы обращены прямо к свету. По иронии, именно зрительная система позвоночных в своё время вдохновила искусственные свёрточные сети. Что из этого следует? ➡️ Для ИИ копировать устройство мозга — не лучшая стратегия: вместе с удачными решениями в модель попадут и особенности, возникшие под чисто биологические ограничения и к задачам ИИ отношения не имеющие. Разумнее спрашивать не "какую пользу даёт эта черта мозга", а "каким ограничением она вызвана", и переносить только то, что решает задачи, общие у мозга и у конкретной системы. У ИИ свой набор ограничений, и его оптимум лежит в другом месте. ➡️ В рамках психиатрии может быть некорректно описывать расстройства как отклонение от нормы, если оптимума не существует. Индивидуальные различия, в том числе клинические, — это разные компромиссы между одними и теми же требованиями, сложившиеся под уникальный набор условий. Отсюда довод в пользу трансдиагностического взгляда — описывать состояние не жёсткими категориями (напр., депрессия, тревожное расстройство по отдельности), а непрерывными признаками, общими для разных диагнозов. Также имеет смысл оценивать не "однократное" состояние мозга, а траекторию его развития. Отклонения именно траектории (например, как меняется объём коры относительно ожидаемого для возраста разброса) могут предсказывать выраженность психопатологии точнее, чем сами по себе данные нейровизуализации. Вдобавок траектория показывает не только сам факт наличия особенности, но и то, какие условия привели к ней со временем, — а это важнее для раннего выявления и вмешательства, тем более что около 75% психических расстройств проявляются ещё до конца подросткового возраста.

Когнитивная темная материя и неоптимальный мозг #ai #neuro После неожиданно долгой паузы, причины которой прозаичны (формирование лаборатории, эксперименты, преподавание), возвращаюсь с двумя статьями, которые с разных сторон рассматривают соотнесение ИИ и мозга. В последние месяцы, когда мы с коллегами на собственном опыте ощутили еще более интенсивное слияние ИИ-агентов с научными рутинами, подобные вопросы стали переходить из умозрительной плоскости в более прикладную. Первый препринт написан в соавторстве с Томом Гриффитсом, одним из ведущих специалистов по вычислительной когнитивной науке. Авторы рассматривают феномен "рваного (jagged) интеллекта": ИИ может уверенно решать задачи, непосильные большинству людей, но тут же спотыкаться на чем-то элементарном, причем заранее предсказать, где пройдет эта граница, почти невозможно. Почему так происходит? Модели учатся на внешних производных — текстах, коде, изображениях. Но они не учитывают те процессы, которые происходили при создании этих внешних "артефактов": каким образом человек (и в более широком смысле — разумный агент) рассматривал варианты решения, ловил себя на ошибках, менял подходы, приходил к догадкам. Эти невидимые процессы мышления авторы называют когнитивной темной материей. Эту материю мы не можем наблюдать напрямую в данных, но без нее поведение агентов не объяснить. Проблема проиллюстрирована следующим опытом. Ведущие модели (GPT-5.1, Claude Opus 4.5, Gemini 3) попросили сделать веб-приложение для тренировки шахматных задач «мат в один ход». С технической частью модели справляются легко: пишут рабочий код, рисуют доску, фигуры перетаскиваются мышью. А сами задачи получаются некорректными: например, модель расставляет позицию, которая в настоящей партии возникнуть не могла бы. И самое показательное: проверить позицию модель могла бы и сама, поскольку подключила шахматную библиотеку, которая как раз умеет отличать корректную позицию от невозможной. Но не проверяет. И даже после подсказок продолжает повторять ту же ошибку. Авторы видят в этом нехватку умения заметить собственную ошибку (метакогниция) и готовности сменить заведомо провальную стратегию (когнитивная гибкость). Далее авторы переходят к измерениям, опираясь на трёхуровневую классификацию когнитивных функций: 🌟L1 — освоенное ИИ (зрение, речь), 🌟L2 — частичный прогресс (планирование, память, внимание), 🌟L3 — почти непроработанное (когнитивная гибкость, теория разума, эмпатия). Расхождение оказывается двойным: крупные базы данных нейровизуализации сосредоточены на L1, хотя интерес самой нейронауки смещён к L2 и L3, а бенчмарки ведущих лабораторий почти целиком приходятся на L2, оставляя L3 единичными исключениями. Отсюда формируется и основной тезис авторов — функции, которыми ИИ овладел, совпадают с теми, что хорошо обеспечены нейроданными, а то, что ему не даётся, столь же скудно измеряется и в нейронауке. Что предлагают авторы? Собирать данные, которые делают скрытые когнитивные процессы наблюдаемыми. Источники данных могут быть следующими: ✔️Массовые поведенческие эксперименты: на больших данных о том, как люди решают задачи, можно построить вычислительные модели мышления, а из них уже извлечь те самые скрытые переменные. ✔️Прямая регистрация процесса решения: куда человек смотрит (айтрекинг), какие варианты перебирает (движения курсора), что проговаривает вслух, когда думает. ✔️Одновременная регистрация активности мозга и поведения. Смысл в том, чтобы обучать модели не только на итоговом ответе, но и на пути к нему.

Foundation model как рабочий инструмент #neuro #ai Публикация: Wang, E. Y., Fahey, P. G., Ding, Z., Papadopoulos, S., Ponder, K., Weis, M. A., ... & Tolias, A. S. (2025). Foundation model of neural activity predicts response to new stimulus types. Nature, 640(8058), 470-477. В предыдущем посте я писала, что большинство foundation models для ЭЭГ/МЭГ пока что застряли на уровне робкого технологического эксперимента. В этом же посте предлагаю рассмотреть пример качественно иной результативности использования таких моделей в нейронаучных исследованиях. 🤩В описываемом исследовании были собраны данные активности ~135000 нейронов 14 мышей. Мышам предъявляли естественные видеозаписи (динамичные сцены, близкие к реальному зрительному опыту) и регистрировали, как на них реагируют нейроны в разных зрительных областях коры. На этих данных авторы обучили единое обобщённое представление работы зрительной коры — так называемый foundation core. Данные от разных животных и разных областей коры объединялись, чтобы модель выучила не индивидуальные особенности конкретной мыши, а общие принципы зрительной обработки. В модели представлены следующие модули: 1️⃣Перспектива: учитывает геометрию зрительного ввода. Положение глаз у мыши слегка меняется, и один и тот же стимул может проецироваться на сетчатку по-разному. Этот модуль пересчитывает изображение с экрана в то, что “видит” глаз в каждый момент времени. 2️⃣Модуляция: учитывает текущее состояние животного. Известно, что активность зрительной коры зависит не только от стимула, но и от поведения: движется ли мышь, расширен ли зрачок, в каком она состоянии бодрствования. Этот модуль вводит такие поведенческие факторы в модель. 3️⃣Ядро: динамический энкодер, который получает скорректированный зрительный сигнал и информацию о состоянии животного и преобразует их во внутренние представления. Именно здесь модель учится выделять устойчивые закономерности зрительной обработки, общие для разных животных и областей коры. 4️⃣Вывод: связывает общее представление с активностью конкретных нейронов. Для каждого нейрона обучается простой линейный слой, который переводит общее представление ядра в его индивидуальную динамику активности. После обучения ядро модели фиксируется и используется как универсальная основа. При работе с новыми животными модель не переобучается целиком: подстраиваются только индивидуальные компоненты, отвечающие за конкретные нейроны. Результаты следующие: 💫Модель обучается только на натуральных видео, но корректно предсказывает, как нейроны зрительной коры будут реагировать на совершенно другие типы стимулов: движущиеся точки, решётки Габора, шумовые паттерны и статические изображения. Она корректно воспроизводит классические нейрофизиологические характеристики нейронов: чувствительность к ориентации, направлению движения и пространственную избирательность. 💫При переносе на данные новой мыши foundation-подход оказывается значительно более экономным. Чтобы достичь той же точности предсказаний, что и модель, обучаемая с нуля под конкретное животное, ему требуется в 2–3 раза меньше объёма записей. 💫По внутренним параметрам модели, отвечающим за предсказание активности отдельных нейронов, можно восстанавливать их анатомические свойства — от принадлежности к зрительной области до типа клетки, морфологии дендритов и вероятных синаптических связей с другими нейронами. При этом модель обучалась только на функциональных данных и никогда не “видела” анатомию. Связь между функцией и структурой возникает как естественное следствие выученного представления работы зрительной коры. 🤩В итоге такая модель перестаёт быть просто инструментом для предсказания сигналов. Она позволяет проводить полноценные нейрофизиологические эксперименты in silico без реального предъявления стимулов животному. Классические протоколы (от подбора параметрических стимулов до оценки избирательности отдельных нейронов) можно реализовывать напрямую на модели, используя её как замену живому эксперименту там, где это допустимо.

Foundation models для ЭЭГ: затянувшийся пролог #neuro #ai Современные модели для анализа нейрофизиологических данных зачастую обучаются под конкретные задачи (напр., классификацию состояний или обнаружение событий в сигнале). Такой подход требует размеченных данных и жёстко привязывает модель к условиям записи. Из-за высокой вариабельности нейросигналов между людьми, протоколами и оборудованием такие модели плохо переносятся на новые данные и часто теряют качество вне обучающего набора. Foundation models предлагают другой порядок обучения. Сначала модель обучается на больших объёмах неразмеченных данных и учится строить представления сигнала, т. е. компактные внутренние описания, в которых сохраняются его устойчивые характеристики. Обычно это осуществляется через self-supervised подходы, в которых модель восстанавливает или предсказывает части самого сигнала. Такие представления слабо зависят от конкретной задачи и могут служить общей основой для дальнейшей донастройки при минимальной разметке. До недавнего времени foundation models ЭЭГ развивались довольно однотипно. В большинстве работ это были универсальные энкодеры для многоканальных временных рядов, обученные на больших объёмах неразмеченных данных зачастую за счёт восстановления частей сигнала. В качестве архитектурной основы почти всегда использовались трансформеры, работающие с короткими временными сегментами ЭЭГ или МЭГ и их спектральными представлениями. На практике у этой первой волны foundation models быстро проявились ограничения: 1. Недостаточная универсальность: модели проверялись на небольшом числе задач, часто на тех же датасетах, что использовались при предобучении; 2. Cлабая проверка переноса: работа с абсолютно другими данными и малым числом меток не осуществлялась полноценно; 3. Неочевидный эффект масштабирования: рост моделей и данных не давал стабильного выигрыша; 4. Контекст и пространственная структура учитывались слабо: анализ ограничивался короткими фрагментами сигнала; 5. Неубедительная “нейро”-специфичность: подходы, не разработанные специально для нейросигналов, часто показывали сопоставимые результаты. Даже самые свежие foundation models наследуют те же ограничения. Тем не менее, появляются работы, которые пытаются адресовать отдельные практические проблемы. Так, новая модель REVE нацелена на снижение зависимости от конкретного расположения электродов и формата записи: она изначально обучается работать с разными конфигурациями датчиков и длиной сигналов, благодаря чему лучше переносится между датасетами и не требует тонкой подстройки под каждую новую задачу. Другой показательный пример — SleepFM, которая расширяет идею foundation models за пределы одного сигнала и одной задачи. В этой модели используется мультимодальная полисомнография — совместно регистрируемая ЭЭГ, ЭКГ, дыхательные и мышечные сигналы, записанные за всю ночь сна. Модель обучается извлекать устойчивые характеристики сна как целостного физиологического процесса и затем используется не только для стандартных задач вроде выделения стадий сна или детекции апноэ, но и для прогноза широкого круга заболеваний — от сердечно-сосудистых до нейродегенеративных. И это — по одной ночи записи! Ключевое отличие этого исследования касается не архитектуры, а постановки задачи: сон рассматривается не как объект локальной физиологической разметки, а как характеристика общего состояния организма, и foundation model используется именно для такого уровня обобщения. Дальнейший прогресс foundation models ЭЭГ упирается не столько в новые архитектуры, сколько в методологию. Важными следующими шагами являются реалистичная оценка переноса между данными, сравнение с существующими классическими моделями, понимание того, что именно кодируется в выученных представлениях и как это связано с физиологией и клиническими интерпретациями. Без этих шагов foundation models рискуют так и остаться технологическим экспериментом, а не рабочим инструментом нейронауки. А следующий пост расскажет об успешном прецеденте использования foundation model в исследованиях зрительной коры мыши.

Поиск соучастников в научную авантюру #announcement Какое-то время на канале не было постов. Связано это было с тем, моя деятельность сейчас полностью переместилась в клинический контур — в Центр кибермедицины и нейропротезирования ФЦМН ФМБА. Работа этого недавно созданного центра, подробнее о котором можно узнать на канале его руководителя Артура Биктимирова, направлена на разработку и внедрение нейротехнологических решений, которые находятся на границе клиники, инженерии и вычислительной науки: нейромодуляция, нейропротезирование, анализ и интерпретация сложных клинических данных, поддержка принятия решений в сценариях нейрореабилитации. В соответствии с этой логикой в рамках Центра в конце этого года была создана Лаборатория мультимодальной аналитики, руководством которой я и занимаюсь. В этой вычислительной лаборатории мы создаём алгоритмы и методы, которые позволяют из разрозненных физиологических сигналов, клинических наблюдений и экспериментальных парадигм собирать целостное представление о состоянии нервной системы — достаточно устойчивое, чтобы на него можно было опираться в реальных терапевтических решениях. На фоне уже непосредственной включенности в несколько проектов Центра лаборатория продолжает находиться в фазе активного формирования, и именно поэтому мы открываем набор людей, которым интересно работать в этом направлении. Подробное и формальное описание вакансии размещено здесь. Подать заявку можно через гугл-форму.

Improv: платформа для адаптивных нейроэкспериментов в реальном времени #tools Публикация: Draelos, A., Loring, M. D., Nikitchenko, M., Sriworarat, C., Gupta, P., Sprague, D. Y., ... & Naumann, E. A. (2025). improv: A software platform for real-time and adaptive neuroscience experiments. Nature Communications, 2025-11. В Nature Communications представлена новая программная платформа improv, предназначенная для проведения адаптивных нейроэкспериментов, в которых моделирование, сбор данных и управление стимуляцией объединены в единый цикл. Традиционные эксперименты в нейронауке опираются на заранее определённые гипотезы и анализ данных post hoc, что исключает возможность корректировать ход исследования на основе промежуточных результатов. improv решает эту проблему, обеспечивая интеграцию моделирования и эксперимента в реальном времени. Внутри improv всё выстроено из небольших блоков, которые работают параллельно: один записывает активность нейронов, другой анализирует сигналы, третий подбирает стимулы или запускает фотостимуляцию. Всё это происходит синхронно, без задержек: эксперимент буквально “думает на ходу”. В статье представлены примеры применения библиотеки: 📎 В экспериментах с двухфотонной визуализацией у рыб алгоритм подбирал зрительные стимулы, то есть решал, что показать дальше, чтобы максимально “возбудить” нейроны. Сначала система измеряла, как клетка реагирует на несколько направлений движения, затем с помощью байесовской оптимизации выбирала следующий вариант, постепенно уточняя свою гипотезу. Уже после ~15 попыток модель находила то направление, на которое нейрон реагирует сильнее всего. 📎 В экспериментах на приматах система училась предсказывать активность нейронных популяций в моторной коре. Она непрерывно сжимала поток сигналов до нескольких ключевых координат и строила вероятностную модель, способную прогнозировать, как будет меняться общая динамика мозга в ближайшую секунду. Такие методы могут стать основой для нейроинтерфейсов с обратной связью. 📎 В оптогенетических экспериментах improv сам выбирал, какие нейроны стимулировать, исходя из того, как они реагировали на разные стимулы. Вместо того чтобы заранее задавать координаты, система ориентировалась на функциональные свойства клеток: например, на их избирательность к направлению движения. В результате активировались группы нейронов с похожими реакциями, что позволило напрямую проверять, как изменение активности одной части нейрональной сети влияет на другую. Ссылка на Github-репозиторий: https://github.com/project-improv/improv

Ритмы без ритма: мозг и его внутренние циклы активности #neuroscience Публикация: van Es, M. W., Higgins, C., Gohil, C., Quinn, A. J., Vidaurre, D., & Woolrich, M. W. (2025). Large-scale cortical functional networks are organized in structured cycles. Nature Neuroscience, 1-11. Недавнее исследование в Nature Neuroscience показало, что большие функциональные сети мозга даже в состоянии покоя активируются не спонтанно, а следуют устойчивым циклам. Авторы проанализировали данные магнитоэнцефалографии (МЭГ) из пяти крупных наборов данных, содержащих записи участников разных возрастов. Из сигналов были выделены состояния, соответствующие каноничным функциональным сетям мозга, среди которых: - DMN (default-mode network), отражающая активность мозга в состоянии покоя; - сеть внимания; - сенсомоторная сеть; - лобно-височная сеть, вовлечённая в процессы контроля и интеграции информации; - языковая сеть. Чтобы проследить, как эти состояния сменяют друг друга, исследователи разработали новый метод — TINDA (Temporal Interval Network Density Analysis), который оценивает вероятность того, что одна сеть активируется раньше или позже другой на разных временных масштабах. Результаты показали, что, хотя отдельные переходы между сетями выглядят случайными, в целом их активность складывается в устойчивый цикл, который воспроизводится у разных людей и в разных наборах данных. Верхняя часть цикла (см. рисунок) объединяет состояния с высокой мощностью и сильной когерентностью: то есть моменты, когда многие области мозга активизируются синхронно, образуя интегрированные сети, пространственно схожие с дефолт-системой (DMN) и связанные с внутренней ориентацией внимания. В нижней части цикла, напротив, активность становится менее согласованной и более локальной, преобладают сенсомоторные сети и сети внимания, отвечающие за взаимодействие с внешней средой. Иными словами, мозг ритмически перестраивает степень своей внутренней согласованности: от интеграции к специализации, от интроспекции к действию и обратно. Интересно, что “восточной” стороне цикла преобладает более высокочастотная активность (в альфа/бета-диапазонах), связанная с сенсомоторным торможением. А на “западной” — низкочастотные колебания в дельта/тета-диапазонах, чаще в лобно-височных и языковых областях. Это означает, что цикл организует переключение между частотными доменами, а не только между пространственно определенными сетями. Длина же циклов составляет 300-1000 мс, но это не ритмы мозга в привычном смысле. TINDA выявляет не регулярные колебания мощности, а последовательные переходы между состояниями, у которых нет фиксированного периода. Скорость и сила выявленных циклов оказались связаны с возрастом и когнитивными показателями, а у близнецов — даже с генетическим сходством. В частности, люди с более быстрыми и менее “жёсткими” циклами имеют лучшие когнитивные показатели (память и скорость обработки информации). Этот эффект противоположен возрастным изменениям. Интересно, что циклы наблюдаются не только в состоянии покоя, но и во время выполнения задач — например, когда участники вспоминают последовательности образов или реагируют на лица. Причём в задаче с реакцией на лица фаза цикла за ~500 мс до нажатия предсказывала время реакции. Такое направленное чередование состояний отражает то, что в физике обозначается как нарушение детального равновесия (broken detailed balance): мозг не возвращается в прежнее состояние, а движется по замкнутому, но асимметричному циклу. Это признак неравновесной, энергозатратной динамики, характерной для живых систем, в которых постоянно поддерживается направленный поток информации. Авторы также предполагают, что описанная цикличность может быть механизмом своеобразной когнитивной “гигиены”: периодического обновления когнитивных функций, обеспечивающего чередование состояний внимания, памяти и восприятия.

МЭГ и ЭЭГ: два взгляда на одну физиологию #neuroimaging Публикация: Kleeva, D., Sinkin, M., Shtekleyn, A., Rusinova, A., Skalnaya, A., & Ossadtchi, A. (2025). Qualitative and Quantitative Comparative Analysis of Common Normal Variants and Physiological Artifacts in MEG and EEG. Brain Topography, 38-75. Сегодняшний пост посвящён исследованию, которое мы недавно опубликовали в Brain Topography. Работа мозга предполагает тончайшие электрические процессы, и именно они стали основой клинической нейрофизиологии. ЭЭГ и МЭГ — два основных способа запечатлеть эту активность неинвазивно. Их физика различна, и эти различия влияют то, как выглядят характерные для нормальной активности ритмы, или то, как сигналы искажаются артефактами. Изучение нормальных паттернов особенно важно потому, что именно они служат фоном для диагностики: например, у пациентов с эпилепсией асимметрия привычных паттернов сна может указывать на очаговую дисфункцию. И если ЭЭГ давно встроена в клиническое мышление, то МЭГ требует иных привычек в анализе и интерпретации. Поэтому мы решили напрямую сопоставить оба метода, зарегистрировав одновременно МЭГ и ЭЭГ и сравнив привычные физиологические паттерны и артефакты. Для сравнения мы использовали оценку того, как выглядят сигналы в обеих модальностях, характеристики их усреднений и разложений на частоты, а также результаты локализации источников регистрируемой активности. Что мы обнаружили: ☁️Осцилляции (напр., альфа-ритм или сенсомоторный ритм) в МЭГ могут распадаться на несколько очагов и выглядеть менее синхронными между каналами. В ЭЭГ же они сливаются в единую ритмическую структуру. Это наводит на мысль о более очаговом зарождении ритма с последующим распространением на различные нейрональные популяции, что можно отслеживать с помощью МЭГ. ☁️Более острые паттерны (напр., вертексные волны и К-комплексы) в МЭГ объясняются вкладом нескольких кортикальных источников, в то время как в ЭЭГ это чаще описывается одним доминирующим радиально ориентированным источником с диффузной топографией. ☁️ В МЭГ сонные веретёна проявились не только в центральных зонах, но и во фронтальных и затылочных областях. В ЭЭГ топография выглядела более сближенной к центру, однако реконструкция источников показала, что и здесь за “размазанной” картиной скрывается сеть отдельных генераторов. ☁️Безобидные острые волны сна (POSTS) в МЭГ могут быть похожи на эпилептические разряды. Поэтому без учёта их локализации возможно возникновение ложных тревог у алгоритмов автодетекции. ☁️Специальный анализ показал различия в информативности сигналов. МЭГ-градиометры содержат наибольший объём независимой информации о мозговой активности, за ними идут магнитометры, а ниже всего — ЭЭГ. При этом для физиологических паттернов (вертексные волны, К-комплексы) информативность выше в МЭГ, а для артефактов (моргание, глотание) — в ЭЭГ. Наша статья показывает, что ЭЭГ и МЭГ — не конкуренты, а две оптики одной физиологии. МЭГ открывает возможности для более детальной локализации активности в коре и распутывания сложной динамики, в то время как ЭЭГ остаётся незаменимой для фиксации радиально ориентированных источников и улавливания высокоамплитудных артефактов. В этом смысле полученный материал можно рассматривать как своего рода атлас соответствий между МЭГ и ЭЭГ — практическое руководство, которое поможет клиницисту или исследователю быстрее адаптироваться к работе с обеими модальностями и приходить к более достоверным выводам. ✅Если у вас нет доступа к Brain Topography, за полным текстом статьи можно смело обращаться в комментарии или в личные сообщения. ✅Тем, кому хочется больше контекста: несколько месяцев назад в лекции о современых подходах к анализу неинвазивных нейроданных, которая прошла в рамках Лектория Нейрокампуса, я рассказала и про это исследование, и про другие направления нашей работы.

Для слуховой коры время важнее фонем #neuroscience Публикация: Norman-Haignere, S. V., Keshishian, M., Devinsky, O., Doyle, W., McKhann, G. M., Schevon, C. A., ... & Mesgarani, N. (2025). Temporal integration in human auditory cortex is predominantly yoked to absolute time. Nature Neuroscience, 1-10. Традиционные лингвистические теории предполагают, что речь устроена иерархично: фонемы складываются в слоги, слоги — в слова, а слова — в фразы. В устной речи длительность этих элементов может быть вариативна: один и тот же звук может длиться 50 мс или 200 мс, слово же прозвучать за четверть секунды или за целую. Возникает вопрос: как мозг справляется с этой изменчивостью? Варианты ответа следующие: 1️⃣Слуховая кора “синхронизируется” с речевыми структурами (фонемами, словами). 2️⃣Слуховая кора работает в жёстких окнах абсолютного времени (например, 100–300 мс), а структуры лишь “накладываются” на эти окна. В свежей статье описана прямая экспериментальная проверка этих вариантов. Пациентам с электродами в слуховой коре предъявляли речевые стимулы, искусственно растянутые или сжатые во времени, но с сохранным тембром голоса. Окна слуховой обработки оценивали с помощью метода temporal context invariance (TCI): он позволяет вычислить, насколько долго предшествующий звук влияет на текущий нейронный отклик. Этот подход можно сравнить с измерением краткосрочной памяти слуховой коры. Если бы мозг интегрировал информацию, опираясь на речевые структуры, интеграционные окна должны были бы растянуться вместе с фонемами и словами. Однако обнаружилось, что интеграционные окна увеличились всего на ~5% при трёхкратном изменении длительности структур. То есть слуховая кора практически полностью остаётся привязанной к абсолютному времени. Даже в областях, связанных с речью (напр., верхняя височная извилина), зависимость от структуры оказалась минимальной. Что это значит: 🔸Слуховая кора устроена как часы, а не как словарь: она режет поток звука на фиксированные временные отрезки. 🔵При быстрой речи в одно окно попадает больше фонем, при медленной — меньше. 🔸Работа со смыслами и грамматикой (фонемы, слова, фразы) происходит выше по иерархии: вероятно, в височно-теменных и лобных областях. Что из этого следует: ✅Многие психолингвистические и вычислительные модели речи предполагают, что мозг интегрирует информацию “по структурам” (фонемам или словам). Полученные же данные показывают, что в слуховой коре такой механизм практически отсутствует. ✅В рамках декодирования речи по сигналам мозга те архитектуры искусственных нейросетей, которые опираются на фиксированные временные окна, более физиологически обоснованы, чем те, что пытаются встроить явные фонемные или пословесные границы на ранних уровнях. При этом исследование обладает рядом ограничений. Во-первых, использовалось равномерное масштабирование всех слов и фонем, что не вполне соответствует естественной речи. Однако авторы проверили свой подход и на реальных записях естественно быстрой и медленной речи: результат оказался тем же. Во-вторых, авторы анализировали активность в широкополосном диапазоне гамма-ритма (70–140 Гц), потому что его можно надёжно извлечь короткими фильтрами без искусственного “размазывания” во времени. Для низких частот, напротив, нужны длинные фильтры, которые сами создают иллюзию длинных интеграционных окон. Поэтому вопрос о том, как низкие частоты участвуют в обработке речи, остаётся открытым. Кроме того, анализ ограничивался субсекундными отрезками, поскольку именно в этом диапазоне слуховая кора интегрирует звук. Поэтому пока нельзя утверждать, как мозг обрабатывает речь на более длинных временных масштабах на уровне предложений или фраз, где интеграция может работать иначе.

(Продолжение) 4️⃣Large Language Models Show Signs of Alignment with Human Neurocognition During Abstract Reasoning ✳️Данные: высокоплотная ЭЭГ (64 канала) и движения глаз во время выполнения задачи на завершение абстрактных последовательностей (напр., ABBAABBA). Каждая последовательность подчинялась своему внутреннему правилу. ✳️Подход: сравнение геометрии различий между абстрактными паттернами в мозговых сигналах (потенциалы ЭЭГ, связанные с фиксацией взгляда) и в скрытых представлениях разных слоёв нескольких открытых LLM. ✳️Результаты: - Крупные LLM (70B параметров) справлялись с задачей почти так же, как люди, тогда как мелкие модели показывали значительно худший результат. - Те же правила, которые вызывали трудности у людей, оказывались трудными и для LLM. - Внутренние состояния LLM группировались по смыслу правил, а не случайным образом: чем более выраженной была группировка, тем лучше модель справлялась. - Структура различий между паттернами в средних слоях LLM частично совпадала со структурой различий в мозговых сигналах у людей, что говорит о схожих принципах обработки абстрактных правил. Вместе эти исследования показывают, что хотя модели и мозг устроены по-разному, их внутренние коды оказываются сопоставимыми, и это открывает новые способы исследований того, как человеческий мозг обрабатывает информацию.

Мозг и LLM: совпадение представлений #ai #neuroscience В этой подборке я описала несколько свежих работ, в которых большие языковые модели (LLM) оказываются полезным инструментом для фундаментальной нейронауки. В этих исследованиях используются скрытые векторные представления (так называемые эмбеддинги) — внутренние числовые коды, в которых модель фиксирует содержание входной информации. Именно эти представления соотносятся с данными мозговой активности или поведения, а выявленные совпадения позволяют по-новому взглянуть на то, как мозг кодирует информацию. 1️⃣ High-level visual representations in the human brain are aligned with large language models ✳️Данные: фМРТ участников, которые смотрели на тысячи естественных изображений. Каждому изображению соответствовали подписи с описанием их содержания. ✳️Подход: сопоставление векторных представлений из LLM (полученных по текстовым подписям к изображениям) с мозговой активностью, а также обучение нейросетей, которые по самим изображениям предсказывают эти LLM-представления. ✳️Результаты: - Представления LLM хорошо совпадают с активностью в высокоуровневых зрительных областях. - По активности мозга можно восстановить текстовое описание сцены: значит, в изучаемых областях действительно присутствует семантический уровень кодирования. - Нейросети, обученные предсказывать такие представления LLM по самим картинкам, объясняют мозговые данные лучше, чем многие современные модели зрительного восприятия. - Авторы специально проверили разные варианты входных данных (категории объектов, отдельные существительные или глаголы из подписи) и показали, что именно полные описания, на основе которых LLM учитывают весь контекст, дают наилучшее совпадение с мозговой активностью. - Хотя LLM вообще не имеют зрительного опыта, их представления могут совпадать с мозговыми потому, что они кодируют статистические закономерности окружающего мира, усвоенные с использованием языка. 2️⃣Contextual feature extraction hierarchies converge in large language models and the brain ✳️Данные: инвазивные записи ЭЭГ пациентов во время прослушивания естественной речи, 707 электродов в слуховых и речевых зонах. ✳️Подход: сравнение представлений разных слоёв LLM с иЭЭГ-сигналами и оценка того, какие слои лучше всего предсказывают активность разных участков слуховой и речевой коры. ✳️Результаты: - Более сильные модели лучше предсказывали нейронные ответы. - Важным оказалось не только совпадение по точности предсказания в целом, но и совпадение по организации: у сильных моделей иерархия слоёв отражает иерархию обработки в мозге — от ранних слуховых областей к более высокоуровневым. - При этом такие модели не только более “похожи на мозг”, но используют меньше слоёв для достижения адекватного уровня кодирования. - Таким образом, улучшение качества моделей сопровождается сближением их вычислительных принципов с мозгом, а не только ростом точности предсказаний. 3️⃣Human-like object concept representations emerge naturally in multimodal large language models ✳️Данные: изображения более 1800 предметов, по которым были собраны миллионы суждений “odd-one-out” (какой из трёх объектов лишний) у людей, LLM и мультимодальных LLM (MLLM), а также фМРТ-активность зрительных областей мозга в ответ на те же объекты. ✳️Подход: извлечение векторных представлений объектов из суждений людей и моделей и сопоставление их структуры между собой и паттернами мозговой активности в зрительных областях. ✳️Результаты: - И у людей, и у моделей представления объектов складываются в понятные сематические кластеры (напр., живое VS неживое, естественное VS искусственное). - Мультимодальные модели (MLLM), обученные одновременно на текстах и изображениях, особенно близки к людям: их представления объясняют поведенческие ответы почти на уровне верхней границы. - Те же представления объясняют фМРТ-активность в областях мозга, чувствительных к категориям объектов. - Таким образом, модели без прямого доступа к человеческим нейроданным самостоятельно развивают концептуальные схемы объектов, близкие к тем, что использует мозг.

Иммунитет в режиме предсказания #neuroscience Публикация: Trabanelli, S., Akselrod, M., Fellrath, J., Vanoni, G., Bertoni, T., Serino, S., ... & Serino, A. (2025). Neural anticipation of virtual infection triggers an immune response. Nature neuroscience, 1-10 Когда мы думаем об иммунитете, упрощённо представляется физический контакт: вирус попадает в организм, а иммунные клетки атакуют. Но новое исследование, опубликованное в Nature Neuroscience, показывает, что всё гораздо интереснее. 😎Помещенным в VR участникам демонстрировали “заражённые” аватары с симптомами инфекционных заболеваний. Дополнительно в качестве контроля предъявлялись нейтральные и пугающие аватары без инфекции. Оказалось, что мозг реагирует на инфицированные аватары как на реальную угрозу. Активировались зоны, отвечающие за периперсональное пространство (PPS) — ту невидимую защитную зону вокруг тела,в которой всё воспринимается как потенциально опасное. Причём реакция возникала ещё тогда, когда аватар был далеко: мозг заранее выявлял угрозу и активировал сеть значимости, которая фильтрует все важные стимулы. 🦠Однако наиболее важный результат заключается в том, что организм и запустил реальный иммунный ответ без какого-либо контакта с патогеном. После VR-сессии в крови участников действительно менялся состав клеток иммунной системы. Больше всего реагировала группа так называемых врождённых лимфоидных клеток, которые включаются при любой инфекции быстрее всего. Интересно, что такие иммунные изменения были сопоставимы с тем, что происходит после настоящей прививки от гриппа. Таким образом, мозг, заметив виртуальную угрозу, дал команду, и иммунитет перестроился почти так же, как если бы в организм ввели вакцину. 🧪При этом другие иммунные защитники — NK-клетки — почти не реагировали. Это логично, если вспомнить их роль: они активизируются, когда вирус уже успел внедриться в клетку. Поскольку в эксперименте никакого реального заражения не было, перестройка пошла за счёт более универсальных лимфоидных клеток. Такая “перестраховка” организму нужна с учётом быстрого воздействия вирусов. Мозг в этом случае выступает как ранний сигнализатор: заметив угрозу ещё на подступах к телу, он запускает иммунные механизмы заранее. Это напоминает принцип дымового датчика: лучше пусть тревога сработает зря, чем не прозвенит в нужный момент. Эволюционно это выгодно: организм экономит время, создавая задел для защиты ещё до контакта с патогеном. Конечно, взаимодействие нервной и иммунной систем давно не секрет, но до сих пор речь шла в основном о реакциях на уже случившееся событие — болезнь, травму, инфекцию. Новизна же этой работы в том, что, как выяснилось, иммунный ответ можно запустить ещё до контакта с патогеном на основании предсказанных мозгом сенсорных сигналов об угрозе. Получается, что наш иммунитет — это не только система реагирования на факт заражения, но и система прогнозирования, тесно связанная с мозгом.