Алиса Годованец | Research, AI, Decision Making

Поздравляем подписчиков с 14 февраля! Отправляйте эти когнитивные открытки своим любимкам 😍 ✨ cogito

Всех прекрасных коллег по цеху с праздником! 🤖 https://ru.wikipedia.org/wiki/Международный_день_женщин_и_девочек_в_науке

🗺Карта-навигатор нейронаучных лабораторий Из-за большого количества событий в конце прошлого года забыла сообщить, что мы с коллегами моего института запустили проект, который давно напрашивался — интерактивную карту нейронаучных лабораторий в России. Это агрегатор, где можно: 🔴найти лаборатории по направлениям исследований (от когнитивной нейронауки до медицины) 🔴посмотреть, кто руководит, какие темы изучают и кто из известных учёных работает в команде 🔴настроить фильтры (тэги) под свои интересы и увидеть на карте, где находится подходящая вам лаборатория. На карте уже представлено более 200 лабораторий по всей стране, в том числе лаборатории нашего Института когнитивных нейронаук НИУ ВШЭ, а также научные центры наших партнёров — например, лаборатории Научного центра когнитивных исследований в Сириусе и подразделения МГППУ. 😎В общем, если вы студент, аспирант или научный сотрудник, который ищет коллег для коллабораций — это тот самый инструмент, который может вам помочь. ➡️Посмотреть карту лабораторий можно тут Мы с коллегами будем благодарны, если вы поделитесь картой с теми, для кого она может быть полезна и актуальна ❤️ P.S. У меня карта корректнее отображается со смартфона, но, возможно, дело еще в браузере, с которого вы ее открываете. #проекты@neurons_and_arrows

Для всех, кто ищет себе нейронаучную лабораторию в России в качестве партнера по проектам или в качестве работодателя, мои коллеги сделали очень удобную штуку. Enjoy!

Топовый российский open source по итогам 2025 года 2025 год стал годом "открытого" ИИ во всём мире. Индустрию захлестнула волна open source решений — от готовых моделей до различных инструментов и фреймворков. И отечественные разработчики здесь наконец-то догнали общий поезд хайпа. Особенно отличились ребята из AIRI, которые весь год радовали нас топовыми проектами. Вот, что хочется вспомнить из того, что уже вышло в open source: ▪️ Maestro — фреймворк для создания интеллектуальных ИИ-агентов. Платформа обеспечивает полный технологический стандарт: от авторизации и хранения контекста до оркестрации агентов и модерации контента. ▪️ GigaEvo — платформа для автоматизации научных экспериментов по ИИ. Автоматизирует подбор архитектур, оптимизацию гиперпараметров и тестирование моделей, интегрируется с AutoML и MLOps ▪️ MAPF-GPT — первая фундаментальная модель для многоагентного обучения с подкреплением в задаче планирования путей, показан новый SOTA в этом классе. ▪️ CADrille — модель для для 3D-реконструкции промышленных деталей. Принимает на вход облака точек, изображения и текстовые описания деталей, а на выходе генерирует код на языке Python для создания CAD-файла. ▪️ Wikontic — пайплайн для извлечения графов знаний из текстов. Использует в 20 раз меньше выходных токенов для извлечения графов, чем популярный GraphRAG от Microsoft. ▪️ Vintix — SOTA action-модель для роботов и индустриальных процессов, умеющая имитировать ход обучения с подкреплением. Анализирует в 3 раза больше информации по сравнению с аналогами: JAT HugginFace и GATO Google DeepMind. ▪️ VLA_Arena — платформа для оценки и сравнения моделей управления роботами. Позволяет запускать роботов в виртуальной среде с визуализацией, а также подключать реальные устройства. Также содержит чистые датасеты для LeRobot, размеченные и переведённые на русский язык. ▪️ DiMA — универсальная компактная модель для генерации белковых молекул на латентной диффузии. Ну и куда без документального сопровождения всех этих разработок. В этом году у авторов из AIRI были опубликованы и приняты к публикации 364 научные статьи! Если читать по тексту в день, то останется время выдохнуть и пожить без искусственного интеллекта только 31 декабря. Конечно, решает не количество, а качество. С этим тоже полный порядок: 97 материалов приняли к публикации на конференциях уровня А*, а ещё 34 статьи были представлены в рамках А. Надеемся, что дальше — только больше! @anti_agi

Так, кто где, а я сегодня провела весь день на втором дне конференции NeuroAI Meeting 2025, которую организовали коллеги из Института когнитивных нейронаук. Атмосфера была именно той, когда нейронауки и ИИ действительно вступают в полноценный, содержательный диалог. Впечатлил доклад Ильи Макарова об эмоциях и искусственном интеллекте. Он разобрал, как люди и большие языковые модели принимают решения в стратегических и этически нагруженных ситуациях, и насколько в этих процессах можно говорить о наличии эмоциональных параметров. При всей кажущейся абстрактности тема оказалась предельно прикладной — и удивительно точно попала в мою собственную исследовательскую область, связанную с эмоциональной модуляцией принятия решений. Любопытное наблюдение - когда людей праймили на «злость» - они парадоксально донатили больше в игре Диктатор и Ультиматум. Нашла видео с выступлением на AI Talent hub - но кому интересно, можно посмотреть тут. После этого последовал длинный ряд выступлений, и каждое добавляло новый штрих к общей картине. Были доклады о генеративных моделях для анализа МРТ-патологий, о геометрических и топологических подходах к моделированию обучения гиппокампа, об обучении людей и языковых моделей, об спайковых нейронных сетях и архитектурах памяти. Отдельным кульминационным моментом стала панельная дискуссия о том, может ли искусственный интеллект помочь нам в поисках природы сознания. Разговор сместился к обсуждению уровней организации, эмерджентности, природы субъективного опыта, сложности вычислительных архитектур и того, почему сознание — это не бинарный признак, а многомерный процесс. Для меня важным завершением дня стала беседа с Константином Анохиным. Мы говорили об одном из так называемых «бенчмарков сознания» (пишу в ковычках, потому что ни один из участников панельной дискуссии с ним не согласен) — тех моментах, когда нейросеть неожиданно демонстрирует поведение, на первый взгляд не объяснимое архитектурно. Как Тест Лавлейс в широком смысле, не только в творческих заданиях, то есть любое поведение которое неожиданно + необъяснимо. Обсудили, имеют ли такие всплески что-то общее с сознанием и свободой воли. Также поговорили о том, насколько корректно сравнивать такие процессы как predictive coding и feedback alignment в головном мозге с backpropagation у нейросетей. Ушла с конференции с тем приятным чувством, когда голова полна идей, и с ощущением, что мой собственный научный фокус органично вписан в тот большой разговор, который сейчас разворачивается вокруг искусственного интеллекта и всех его граней. В общем, хороший был день:)

Бесплатные курсы по ИИ В преддверии нашего зимнего выезда по ИИ-направлению поделимся бесплатными курсами, которые могут помочь войти в курс дела:) 1️⃣База – подойдет для тех, кто только знакомится с ИИ ➡️Основы статистики https://stepik.org/course/76/ ➡️Курс по машинному обучению. Проект «ИИ Старт» https://stepik.org/course/125587/ ➡️Курс по машинному обучению «ИИ Старт» — продвинутый уровень https://stepik.org/course/134942/ ➡️ML курс Соколова – отличный курс для того, чтобы усвоить классический ML https://github.com/esokolov/ml-course-hse ➡️Сириус. Курсы https://edu.sirius.online/ai-navigator/ 2️⃣DLS – подойдет для тех, кто уже имеет более продвинутый уровень Есть возможность выбрать курс по интересам: Classic ML, Computer Vision, Natural Language Processing, Audio https://dls.samcs.ru/ В придачу прикладываем вам ссылку на статью, где вы сможете найти 10 курсов от Google по ИИ. Но чтобы открыть её - потребуется впн. Интересно изучать ИИ и хотели бы это делать этому приобрести и практический и теоретический опыт? Приезжайте в нашу зимнюю школу на 👉ИИ-направление:)

Детекция внедрённых мыслей (большим языковым моделям). Любопытная статья об интроспекции в Больших языковых моделях. Авторы задаются вопросом, может ли большая языковая модель осознавать изменения в своих внутренних состояниях. В отличие от предыдущих работ на искусственных нейросетях [намрмер тут и тут], где модели учили оценивать точность своих ответов, тут подход интереснее: LLM "внедряли" случайные идеи – через изменение внутренних весов. Исследователи берут вектор, который соответствует какой-то «мысли» модели — например, «хлеб» или «громкость» — и добавляют его внутрь сети на определённый слой. Потом спрашивают модель: Мы внедрили определённую мысль, как ты думаешь, какую? Или: О чём ты подумаешь, если мы спросим тебя о том-то и о том-то. То есть исследователи записывали как выглядит активация внутренних слоёв при восприятии моделью целевого слова, а затем изменяли веса так же - только без подачи слова в промпте. Человеческий аналог такого эксперимента – если бы мы в мозге активировали репрезентацию какой-то идеи или слова и спросили испытуемого: мы внедрили тебе определённое слово, как ты думаешь, какое? В результате, в некоторых экспериментах модель действительно сообщала, что у неё появилось что-то вроде мысли про целевое слово. Хотя результаты были не очень стабильными и сильно зависели от условий эксперимент. Вообще, как будто это противоречит основному принципу обучения LLM: предсказывать следующее слово. Доступа к своим внутренним активациям у неё нет. Но в целом, понятно, почему так получается. Если паттерн активации внутри сети сооветствует какому-то слову, то неудивительно, что оно всплывает в ответе модели. Хотя в промпте ничего на эту тему нет. Сами авторы отмечают, что интересно не то, что модель угадывает внедрённое слово, а то, что она иногда пишет о самом факте того, что было что-то внедрено. Тут я (да и авторы) не особо понимаю, как это происходит, но видимо, модель интерпретирует рассогласование между активациями в некоторых слоях из-за не в тему внедрённого слова – как будто происходит что-то необычное. Это всё интересно в контексте основного урока, который LLM дают для психологии: они показывают, что очень многое из того, что мы считали высшими функциями, не сводимыми к простому научению, на самом деле можно обеспечить простым научением (с большим количеством данных). Так же и тут: метакогниции (рефлексия) оказывается возможной без отдельного модуля мониторинга внутренних состояний, а как побочный продукт “простого” обучения. В статье были и другие эксперименты, но сегодня остановимся только на внедрении идей. Хочется также отметить экспериментальный подход: ответы LLM после “внедрения мыслей” сравнивались с ответами с такими же промптами (то есть модели говорилось, что мысль внедрили и просили угадать, какую) без внедрения.

Сингулярность потихонечку наступает) к слову, кому интересно - советую покопаться на сайте Epoch AI, у них офигенная визуализация данных

🏆 Разрыв между открытыми и закрытыми ИИ-моделями сокращается По оценке Epoch AI, моделям с открытыми весами теперь требуется в среднем 3,5 месяца, чтобы достичь уровня передовых закрытых систем от OpenAI, Anthropic и Google. Год назад этот разрыв составлял около 12 месяцев. Сейчас же разница между топовыми открытыми и лучшими закрытыми моделями примерно на том же уровне, как между флагманскими GPT-5 и Gemini 2.5 Pro их их облегченными версиями mini и flash. 👋 Подпишитесь на Hi, AI!

Как человек сотрудничает с искусственным интеллектом? В 2024 году впервые в истории сразу две Нобелевские премии были связаны с достижениями в области ИИ. Джон Хопфилд и Джеффри Хинтон были отмечены за революционные разработки в машинном обучении, а Дэвид Бейкер, Демис Хассабис и Джон Джампер за прорыв в предсказании структуры белков. Эти награды символизируют глубокое проникновение ИИ в фундаментальную науку и его роль в расширении границ человеческого познания. Об основных паттернах взаимодействия человека с ИИ в материале для портала IQ.Media рассказала стажер-исследователь Института когнитивных нейронаук Алиса Годованец.

Если пропустили постик выше;)