Yandex for ML

⚡️ Data Dojo возвращается — встреча ML-комьюнити в Питере 9 сентября в Санкт-Петербурге соберём тех, кто уже владеет основами ML и хочет двигаться дальше. Data Dojo — это живое общение с единомышленниками, разбор реальных кейсов от экспертов Яндекса и погружение в то, что происходит в ML прямо сейчас. Если вы начинающий ML-специалист — это шанс войти в тусовку, познакомиться с трендами индустрии и получить карьерную консультацию. Если уже опытнее — возможность для нетворкинга. Что в программе: ⚪️ Антон Клочков, руководитель группы ML-разработки Фотоинпута, расскажет, как они выкатили фичу, а потом откатывали её год ⚪️ Маргарита Мишустина, руководитель группы ранжирования Рекламы, покажет техническую эволюцию аукциона дизайнов, как оптимально группировать объявления для демонстрации пользователям и при чём тут химера ⚪️ Сергей Фиронов, ведущий разработчик службы поведения и предсказания департамента Автономного транспорта, разберёт задачи с соревнования Yandex ML Challenge Как участвовать: 1️⃣ Подайте заявку до 26 августа, приложив резюме 2️⃣ Дождитесь результатов отбора 2–3 сентября 3️⃣ Приходите на встречу 9 сентября, если получите приглашение ↔️ Участие бесплатное. Проезд и проживание за свой счёт. Трансляции не будет — только офлайн. Data Dojo — не разовая акция. Мы строим сообщество: сильное, открытое и любопытное. Здесь у каждого есть шанс стать лучше — и сделать лучше других. 🔳 Регистрация и подробности 🛄 Ждём вас! Подписывайтесь: 💬 @Yandex4ML 📹 @YandexML

🛎 Через час начинаем ML Global Recap Вместе подведём ключевые итоги ICML и других международных конференций, поделимся своими инсайтами и выводами. Разложим по полочкам, что произошло в ML-индустрии за первое полугодие 2026 года. В программе — доклады руководителей разных команд Яндекса: ⚪️ Артём Бабенко, руководитель Yandex Research, расскажет о развитии Tabular DL ⚪️ Дмитрий Мокеев, руководитель группы качества претрейна Alice AI в Яндекс Поиске, разберёт тренды и вызовы в ризонинге ⚪️ Иван Дёгтев, руководитель аналитики Alice AI LLM в Яндекс R&D, поделится новыми подходами и стандартами в оценке качества моделей ⚪️ Андрей Бежин, руководитель службы ML-инфраструктуры в Яндекс R&D, расскажет об оптимизации LLM-инференса 💻 Подключайтесь к онлайн-трансляции: 🔛 Яндекс Плеер 🔛 Ютуб 🛄 Ждём вас! Подписывайтесь: 💬 @Yandex4ML 📹 @YandexML

📖 Что читают в команде ML Лавки? В свободное время ML-разработчики читают статьи, каналы бизнес-юнитов Яндекса, книги по тайм-менеджменту и управлению креативными людьми и... бессмертную классику вроде «Анны Карениной»! 👷 В новом посте из рубрики «Обучено Яндекс Лавкой» собрали в карточках любимые книги или материалы, которые читают наши разработчики после работы. Рекомендациями поделились: ⚪️ Тимур Исхаков, ML-разработчик в логистике Лавки ⚪️ Марк Нарусов, ML-разработчик группы рекомендательных сервисов Лавки ⚪️ Руслан Кулиев, ML-разработчик Лавки ⚪️ Артур Ильичёв, лид группы рекомендательных и поисковых сервисов Лавки Подписывайтесь: 💬 @Yandex4ML 📹 @YandexML

⭐️ Сегодня знакомим со спикерами от Яндекса 📆 Practical ML Conf 2026 пройдёт 19 сентября в Москве и онлайн. На конференции будем обсуждать практический ML, который реально влияет на бизнес. Приготовили для вас хардовые доклады, дискуссии и классные активности. Наши спикеры — независимые эксперты, специалисты из разных IT-компаний и приглашённые гости с keynote-докладами. Про всех будем рассказывать постепенно, за обновлениями следите на сайте и в официальном канале Practical ML Conf. Рассказываем про первых спикеров от Яндекса: ⚪️ Николай Савушкин, руководитель службы рекомендательных технологий Яндекс R&D. Расскажет, как в Яндекс Музыке протестировали end-to-end генеративную модель вместо рекомендательного стека и какие результаты получили в A/B-тесте. ⚪️ Владислав Носивской, руководитель группы инференса LLM в Yandex AI Studio. Объяснит весь путь строительства экономически эффективного инференса LLM для агентских (и не только) сценариев. ⚪️ Данил Кашин, руководитель команды претрейна VLM Яндекс R&D. Расскажет про то, как мы научили VLM рассуждать и использовать инструменты. ⚪️ Артемий Голиков, руководитель бригады визуальных агентов в Алисе, Алиса и Умные устройства. Поделится, как мы построили и обучили VLM-агента, который выполняет задачи в браузере. ⚪️ Иван Лунев, руководитель команды ядра детекции службы восприятия сцены в Автономном транспорте и роботах. Покажет, как мы перешли на query-based-модель MV2DFusion и ощутимо расширили зону видимости автономного транспорта. Что общего между Practical ML Conf и днём рождения? Ждёшь год, проживаешь на одном дыхании, а потом долго вспоминаешь и обсуждаешь. 🔳 Регистрируйтесь на конференцию! Подписывайтесь: 💬 @Yandex4ML 📹 @YandexML

🔗 Автоматизируем базу знаний с AI, заглядываем за кулисы ICML и возвращаем пользователей Лавки с помощью uplift-моделей. Всё это и многое другое — в новом дайджесте Yandex for ML 🚕 Куда сходить ⚪️ Последний шанс зарегистрироваться на ML Global Recap’H1 2026, который пройдёт 13 августа. Обсудим итоги ICML и других международных конференций, главные ML-тренды первого полугодия 2026 года и собственный опыт команды. 🌎 Что случилось ⚪️ ICML: итоги и победы Яндекса. На ICML 2026 команда Yandex Research представила графовую foundation-модель GraphPFN и три публикации. Одна из них — как раз про GraphPFN — получила статус Best Paper Award на тематическом воркшопе. 📖 Что почитать ⚪️ Я перепоручил ведение базы знаний AI-агенту. Толя Панов, CTO Яндекс Карт, рассказал, как доверил AI-агенту суммаризацию, систематизацию и связывание материалов в своей базе знаний Obsidian и что из этого вышло. ⚪️ За кулисами реактивации оттока в Лавке. Слава Костров, ML-разработчик Лавки, объяснил, почему для реактивации пользователей недостаточно оценить вероятность оттока и как uplift-модели помогают понять, какой офер способен вернуть клиента. ⚪️ Предсказываем время сборки на складах в Лавке. Джавид Фаталиев, ML-разработчик в команде Яндекс Лавки, рассказал, как прогноз времени сборки влияет на скорость доставки и почему эта ML-модель остаётся незаметной для пользователя, хотя играет важную роль в работе сервиса. ⚪️ Как выжать из железа максимум: эволюция инференса в Алисе. Виктор Хаймоненко рассказал, как команда прошла путь от инференса на чистом C и пайплайна на корутинах до современных движков и квантизованных моделей. 💻 Что посмотреть и послушать ⚪️ «Грифон»: как адаптируем LLM-принципы в рекомендательных системах. Дарья Тихонович из команды Поисковых сервисов и ИИ рассказала, как в Яндексе развивают генеративные рекомендации: от Semantic IDs и эмбеддингов до квантизации и архитектур генеративных моделей. ⚪️ 1×1 с Димой Александровым на ютубе и в VK Видео. Что Дима понял о яндексоидах за годы работы в компании, как устроена ротация, каково управлять большой командой и почему автомобили стали для него больше чем хобби. ⚪️ «Доверительный интервал»: как аналитики драйвят бизнес — на ютубе и в VK Видео. Чем различаются аналитика эффективности и партнёрская аналитика, как по-разному они влияют на P&L компании и может ли эксперт-одиночка быть визионером и лидером. Подписывайтесь: 💬 @Yandex4ML 📹 @YandexML

🥹 Как выжать из железа максимум: эволюция инференса в Алисе Привет, меня зовут Витя Хаймоненко, я разработчик в команде голосовой активации Алисы. Сегодня я расскажу, как мы прошли путь от инференса на чистом C корутинами до современных движков и квантизованных моделей — и какой инженерный опыт из этого вынесли. 🅿️ Железо фиксировано, а модели растут На колонке одновременно крутится несколько нейросетей: ⚪️ Активационные модели, которые реагируют на слова вроде «Алиса» или «Яндекс» ⚪️ Командные споттеры — набор популярных команд, например, для управления умным домом ⚪️ Интонационные споттеры, которые позволяют перебивать ассистента и понимают, когда вы обращаетесь к колонке даже без слова «Алиса» Все они работают в реальном времени и должны укладываться в жёсткие лимиты по latency и памяти. Докинуть ресурсы на устройство нельзя, поэтому единственный путь — оптимизация инференса. 🅿️ Как ситуация обстояла раньше В 2014 году не было ни готовых инференс-фреймворков, ни повсеместной поддержки C++ на чипах. Мы писали на чистом C, а пайплайн описывали корутинами. Композиция получалась гибкой, но за это мы расплачивались накладными расходами на переключение контекстов и динамическими аллокациями памяти на каждом шаге. Уже тогда появились оптимизации, которые живут до сих пор. Во-первых, батчинг: вместо обработки одного фрейма звука за раз мы ждём, пока накопится небольшой пакет, и обрабатываем их скопом. Это позволяет эффективно использовать SIMD-инструкции процессора и даёт серьёзный выигрыш по скорости, жертвуя лишь примерно полусотней миллисекунд latency. Во-вторых, хранение промежуточных буферов для свёрточных слоёв: мы не пересчитываем целиком всё «окно» заново, а только обновляем его с приходом новых фреймов. Для матричных умножений использовали одну из реализаций BLAS, которая отлично утилизирует кеш процессора. 🅿️ Два поколения квантизации Первый шаг: квантуем веса из FP32 в INT8 и экономим в четыре раза больше памяти. Но перед вычислением разжимаем их обратно в FP32 и выполняем операции как обычно. Второй шаг: сжимаем вход до INT8, перемножаем матрицы в INT16, а результат деквантизуем. Это даёт неплохой прирост скорости за счёт более дешёвых целочисленных инструкций. 🅿️ Мультиспоттер и переиспользование вычислений С ростом числа моделей мы столкнулись с дублированием общих аудиофич и буферов. Решением стал мультиспоттер — разделяемый компонент, который вычисляет общие признаки и распределяет их между споттерами. Это снизило оверхед и по памяти, и по утилизации CPU, а также упростило поддержку. 🅿️ Переезд на TFLite и кастомные операции Спустя примерно три года внутренний движок YNMT уступил место TFLite после серии бенчмарков. Для ML-команды это означало меньше времени на поддержку самописных слоёв: большинство операций уже есть в репозитории, в том числе оптимизированные под конкретные архитектуры процессоров. Более того, мы стали писать кастомные реализации свёрток и модифицировать стандартные кернелы TFLite под наши чипы. Это помогло значительно выиграть в RTF без потери качества. 🅿️ Главные уроки Не стоит бояться использовать опенсорс-решения и адаптировать их под своё железо. Мы взяли стандартную реализацию свёртки в TFLite, переработали её под конкретный чип и получили огромный прирост производительности. К тому же у опенсорсных подходов есть неплохой плюс: зачастую они поддерживаются широким сообществом. Сейчас мы в процессе миграции на TFLite, готовимся использовать встроенную квантизацию вместо ручной и продолжаем пилить кастомные операции. Всё это позволяет делать колонки умнее и при этом сохранять доступность для пользователей. 🔳 А больше технических деталей можно узнать в полной записи доклада с Я.Железо. Смотрите на ютубе и в VK Видео. Подписывайтесь: 💬 @Yandex4ML 📹 @YandexML

🔗 За кулисами реактивации Если пользователь давно ничего не заказывал, кажется, что решение простое: оценить вероятность оттока и предложить клиентам с самыми рискованными показателями скидку побольше. Но есть нюанс 🧐 Высокий риск означает, что человек, скорее всего, не сделает новый заказ. Он не говорит, поможет ли конкретный офер его вернуть. Именно для этого и нужны uplift-модели. 🅿️ Не вероятность покупки, а эффект нашего действия Uplift-модель оценивает разницу между двумя сценариями: что произойдёт, если дать пользователю офер, и что было бы без него. Кто-то вернулся бы и без скидки, кому-то не нужно даже щедрое предложение, а для кого-то бесплатная доставка станет решающим фактором. Поэтому алгоритм сравнивает несколько действий, включая вариант «ничего не давать» с нулевой оценкой. 🅿️ Не только ближайший заказ Скидка может просто передвинуть вперёд покупку, которая и так случилась бы через неделю. А может, наоборот, вернуть пользователя в привычный ритм заказов. Поэтому мы оцениваем полный горизонт: Полный uplift(GMV) = uplift сейчас + γ × uplift в постпериоде «Сейчас» — это время действия промо, когда офер активен и пользователь может им воспользоваться. Постпериод начинается после его окончания, а γ задаёт вес отложенного эффекта. 🅿️ Максимальный uplift ≠ лучшее предложение Один офер может принести больше дополнительного GMV (стоимость заказов), но стоить непропорционально дорого. Поэтому смотрим на размен: Размен = полный uplift(GMV) / uplift(cost) Он показывает, сколько дополнительного GMV мы получаем на каждый рубль затрат. Дальше ранжируем пользователей по score лучшего действия и двигаем границу охвата. Для каждого диапазона на validation-части данных рандомизированного эксперимента считаем суммарные uplift GMV и cost. Получаем затраты по горизонтали, а по вертикали — дополнительный GMV. Так строится кривая размена: сколько GMV можно получить при каждом бюджете. 🅿️ Как размен превращается в лагранжиан Кривая помогает выбрать общую точку запуска, но решение нужно принимать для каждого пользователя и офера. Формально мы максимизируем суммарный uplift GMV в рамках бюджета. А лагранжиан превращает это ограничение в локальный score: Score = полный uplift(GMV) − λ × uplift(cost) λ задаёт цену затрат: сколько рублей дополнительного GMV мы требуем на рубль cost. При положительном cost: Score > 0 ⇔ полный uplift(GMV) / uplift(cost) > λ То есть офер выигрывает у варианта «ничего не давать», только если его размен выше λ (это порог отдельного решения, а не итоговый размен всей стратегии). ↔️ Например: при λ = 4 офер с приростом GMV на 200 рублей и затратами в 100 не проходит, потому что размен равен 2. А офер с приростом 120 рублей и затратами 20 проходит, так как размен равен 6. Меньший uplift оказался выгоднее. Среди оферов выбираем максимальный score, а λ подбираем так, чтобы суммарные затраты policy укладывались в бюджет. 🅿️ Как проверить новую стратегию до A/B Запускать отдельный эксперимент для каждого порога слишком долго, поэтому сначала сравниваем policy офлайн через replay с IPS-взвешиванием. Мы применяем новую стратегию к логам рандомизированного эксперимента. Совпавшие с ней действия сохраняем и перевзвешиваем с учётом вероятности назначения. Так получаем ожидаемые GMV и cost, а прирост считаем относительно базового сценария — например, «никому не давать офер». На валидации выбираем стратегию и охват, а финальную оценку считаем на отдельном holdout. Важно, чтобы каждое действие новой политики встречалось в логах с ненулевой вероятностью. Офлайн-оценка помогает отсеять слабые варианты и выбрать стратегию для A/B. Но финальное решение о запуске мы принимаем по результатам онлайн-эксперимента. 🅿️ Что в итоге У нас получился не просто предиктор «уйдёт или нет», а целая система принятия решений. Она выбирает между несколькими оферами и вариантом «ничего не давать», учитывая ближайший и отложенный эффект, стоимость воздействия и ограничения бюджета. Подписывайтесь: 💬 @Yandex4ML 📹 @YandexML

🧿 Мы привезли графовую foundation-модель на воркшоп ICML 2026 Всем привет, это Людмила Прохоренкова, исследователь в Yandex Research. Наша команда занимается машинным обучением для задач, где важны связи между объектами: от академических исследований графовых моделей до их применения в продуктах Яндекса. Одна из важных частей нашей работы — проведение исследований и публикация результатов на ведущих ML-конференциях: И вот недавно наша статья «GraphPFN: A Prior-Data Fitted Graph Foundation Model» как раз была принята на ICML 2026 и получила статус Best Paper Award на тематическом воркшопе. 👷 В карточках рассказываю про нашу публикацию и участие в конференции А ниже — ссылки на статьи, которые мы представили на воркшопе: ⚪️ G2T_FM — метод применения табличных foundation-моделей к графовым задачам ⚪️ Fair evaluation — методология оценки качества графовых foundation-моделей ⚪️ GraphPFN — графовая foundation-модель, обученная на синтетических графах 🔳 Кстати, инсайтами с мировых ML-конференций мы скоро поделимся на ML Global Recap’H1 2026. Здесь спикеры Яндекса сделают суммаризацию всего самого важного с ивентов за первые полгода 2026. Подписывайтесь: 💬 @Yandex4ML 📹 @YandexML