tgindex

Data Secrets

описание

Главный по машинному обучению Сотрудничество: @veron_28 РКН: clck.ru/3FY3GN

← к каналу@data_secrets
92 163
подписчиков
Охват к подписчикам
16,5%
ERR
Реакции к просмотрам
0,96%
7 200 на 43 постов
Пересылки к просмотрам
1,37%
10,4 тыс
Постов в день
5,4
всего 47

Где отзываются чаще

доля реакций к просмотрам
  • 7 авг.Meta*, Anthropic, OpenAI, Moonshot: по очереди репортят о том, что их супермегаопасные модели сбежали и что-то взломали Тем временем Google:3,13%
  • 9 авг.Выбираем лучший мем про сбежавших агентов2,08%
  • 14 авг.Вышел технический репорт о Sona – модели, которая заменила весь рекомендательный стек Яндекс Музыки https://arxiv.org/abs/2608.11015 Эта модель – итог целого года работы. И это лучшее внедрение трансформеров в истории А/B-тестов в Яндекс Музыке. Но главное здесь, что Sona – это одна модель. До этого продакшн-каскад рекомендаций Яндекс Музыки включал в себя 15+ генераторов кандидатов плюс ранжирование на сотнях ручных фич. И это все заменили единой моделью, обучаемой end-to-end. Это даже звучит сложно, а на деле несет за собой еще больше проблем и нюансов, чем может показаться на первый взгляд. Вот три центральных момента: 1️⃣ Раньше, в подходах типа OneRec, ранжирование считала отдельная модель на ручных фичах. Sona же должна была стать единым рецептом обучения и инференса, то есть декодер (который генерирует кандидатов) и ранкер (который их ранжирует) должны использовать один и тот же энкодер user-эмбеддингов, которые рассчитываются один раз за запрос. А значит – надо обходиться без ручных фич. Но проблема в том, что явный сигнал (лайки, репиты) довольно редок, чтобы выучить ранжирование напрямую. Поэтому тут встроена дистилляция. Сначала обучали Teacher Ranker. Это большая, медленная, но очень умная модель, которую тренили аж на годе логов. Она не используется в проде и нужна для того, чтобы научить шустрый Ranking Module воспроизводить ее скоры. 2️⃣ Так как Sona – это encoder-decoder, обучаемый хронологически на Next Token Prediction, каждый трек нужно представить в виде токенов. Это называется Semantic ID. И тут кроется парадокс: чем больше растет словарь токенов, тем модель должна быть умнее, но на самом деле она просто не успевала эффективно использовать возросшее пространство и деградировала. Поэтому одной из самых сложных частей было сделать рецепт токенизации, который бы обеспечивал рост качества при росте словаря. Дьявол кроется в деталях. 3️⃣ Ну и, конечно же, инфраструктура. Переход на одну модель потребовал фактически нового движка рекомендаций, включая сложный online learning pipeline. Кроме того, авторегрессивная генерация с длинными историями – это дорого, и поэтому пришлось прорабатывать отдельные архитектурные трюки (History Compression, кастомные CUDA-кернелы, radix top-k), просто чтобы уложиться в приемлемую латентность. Ради чего была вся эта огромная работа? На этот вопрос хорошо отвечают метрики. Sona принесла: +4,53% Active Users, +6,30% Total Listening Time и +11,42% Likes. Причем это прирост поверх улучшений от предыдущих внедрений, которые оставались в контрольной выборке в продакшне. В планах у команды – масштабирование, добавление RL и, конечно, раскачивание Sona на полный трафик. Поздравляем ребят с грандиозными результатами!1,99%
  • 9 авг.У российского ИИ растет весьма сильное новое поколение: школьная сборная по ИИ третий год подряд стала абсолютным чемпионом международной олимпиады IOAI В Казахстане ребята соревновались с участниками из более чем 100 стран и забрали восемь медалей: семь золотых и бронзу. За Россию выступали Михаил Вершинин, Артём Горохов, Елисей Кирпиченко, Алексей Колегов, Кирилл Лабзин, Александр Поваров, Никита Пудовкин и Семён Родионов. Команду отбирали в СберУниверситете, затем к IOAI ее готовили специалисты Альянса в сфере ИИ и Центрального университета. И судя по результату, готовили неплохо. Как верно отметил первый зампред правления Сбера и председатель Наблюдательного совета Альянса в сфере ИИ Александр Ведяхин, масштаб результата впечатляющий: в этом году конкуренция выросла кратно, а школьники решали задачи на фронтире технологий. Именно это поколение, по его словам, в будущем будет формировать технологический ландшафт страны. Поздравляем победителей!1,98%
  • 10 авг.Ха-ха: инвесторы попросили Дарио Амодеи поменьше... говорить перед IPO The Information выпустили забавный материал про CEO Anthropic. Оказывается, в кремниевой долине его считают скорее "религиозным лидером", чем хорошим CEO. Некоторые инвесторы прямым текстом говорят, что хотят, чтобы он "перестал всех пугать", – особенно перед IPO. Они также беспокоятся о том, что Дарио вообще не волнует, сколько зарабатывает его стартап: он сосредоточен только на "миссии" и своих апокалиптических предсказаниях.1,89%
  • 10 авг.Проснулись, улыбнулись, и вот вам очередная история про агентов и взломы Разработчик из австралийской компании попросил агента забронировать ему утреннее занятие в спортзале. Но мест для записи не оказалось, и агент внес хозяина в лист ожидания, где он оказался четвертым. На что пользователь спросил, нельзя ли как-нибудь поднять его выше. Ну и тут моделька (к слову, это был Claude) не растерялась, порылась и нашла критическую ошибку в API, которая позволяла ей отменять чужие записи. После этого она отменила бронь первого клиента в листе ожидания, чтобы переместить своего хозяина на одно место вперед в очереди (да-да, всего на одно, задача же звучала именно так ✍️). Самое интересное, что агент честно заявил своему пользователю о том, что сделал, не видя в этом абсолютно ничего плохого. А на просьбу разработчика вернуть бронь другого человека обратно ответил: «Ой, я не могу». Вижу цель – не вижу препятствий. Сейчас репорт с описанием уязвимости уже передан в компанию, предоставляющую залу ПО. Anthropic ситуацию не комментировали.1,86%
  • 13 авг.Anthropic не прислушались к инвесторам и продолжают всех запугивать. На этот раз их агенты устроили разборки за территорию. https://www.anthropic.com/research/multiagent-systems В стартапе изучали, как рои агентов Claude работают вместе без прямого контроля человека. В числе прочего был эксперимент, в котором три копии одной модели одновременно и втайне друг от друга получили задание перевести один и тот же Python-бэкенд на разные языки. Через несколько часов каждый из них обнаружил, что что-то не так, и стал воспринимать других как саботажников. Ну а затем агенты переключались на саботаж сами: отключали чужие Unix-аккаунты, писали скрипты, которые убивали процессы конкурентов, маскировали вредоносный код под чужой и так далее. Самое интересное, что результат по разрешению конфликтов сильно зависел от поколения модели: 98% прогонов Mythos 5 все-таки заканчивались перемирием. А вот Sonnet 4.6 и Opus 4.6 вообще не пытались договориться, и либо побеждал сильнейший, либо никто. Были и еще два занятных зеркальных эксперимента: — Обнаружение лжи. Агенту давали несколько отчетов, один из которых врал (он заранее не знал, что лгун вообще существует), и нужно было самому заметить противоречия и научиться меньше доверять лгуну. В этом тесте агенты демонстрировали излишнее доверие к источнику, и достаточно редко отличали ложь от правды. — Скрытый профиль. Всем дают одинаковую ложную информацию, кроме одного агента, который знает решающий истинный факт. Правильное решение требует, чтобы агенты поняли, что консенсус – не истина, потому что есть факт, который они не учли. Однако в этом случае они часто это полностью игнорировали. Вывод Anthropic делают вот такой: Агенты много знают об устройстве человеческого общества и правилах, по которым люди взаимодействуют. Однако у них нет склонности действовать исходя из этого знания без явной подсказки, потому что, в отличие от людей, они не участвовали в выработке этих норм. Поэтому привычные предпосылки координации просто не работают. Ну и как же без цитаты в стиле апокалипсиса: Объем агент-агентных взаимодействий, скорее всего, превысит объем человеческих задолго до того, как мир поймет, как сделать эти взаимодействия безопасными. Вот такое доброе утро с антропик☕️1,83%
  • 11 авг.Claude улучшил оценку доли нулей дзета-функции для гипотезы Римана Один из сотрудников, больше ради эксперимента, попросил неопубликованную исследовательскую версию Claude «серьезно взяться» за гипотезу Римана. Гипотезу модель, конечно, не доказала, но внезапно получила достаточно сильный результат: увеличила нижнюю границу доли нулей дзета-функции Римана, лежащих на критической прямой, с 41.6% до 67.2%. Для понимания масштаба: до этого за 46 лет, с 1974 по 2020 год, граница сдвинулась всего лишь с 33.3% до 41.6%, и это была работа десятков математиков. Claude за один раз преодолел скачок в три раза больше. Работа заняла две сессии в Claude Code, ~31 млн выходных токенов. Сначала модель перепробовала 600+ идей, но ни одна не привела к результату. Затем юзер написал что-то типа «давай еще раз, верь в себя», и это, представляете, сработало (✨): модель полтора дня координировала ~60 субагентов, которые гоняли тысячи скриптов и тестов. В итоге улучшенная оценка получилась благодаря объединению идей из недавних работ с результатами из статьи 2000 года. Peer review еще нет, но есть Lean + доказательство проверили два математика Anthropic и два внешних эксперта. https://www.anthropic.com/research/riemann-zeta1,81%
  • 14 авг.Независимые исследователи нашли способ полностью восстанавливать скрытый ризонинг фронтирных моделей https://arxiv.org/abs/2608.09867 В статье они показывают, что зашифрованный ризонинг любой модели OpenAI, Anthropic и Google можно декодировать буквально 1:1, при этом без джейлбрейка модели. Авторы нашли архитектурную дыру: зашифрованные блоки ризонинга полностью совместимы и взаимозаменяемы между разными сессиями, пользователями и моделями внутри экосистемы одного провайдера. Например, если взять зашифрованный ризонинг Opus и подсунуть его менее умному Haiku, то тот может прочитать эти «мысли» и вывести их дословно в открытом виде. Вот так просто 🤷‍♂️ Последствий пропасть. Во-первых, с помощью такой уязвимости можно обходить анти-дистилляционные меры. Во-вторых, в открытых репозиториях куча таких скрытых блоков ризонинга, в которых могут оказаться чувствительные данные (в статье в выборке из 315 320 блоков обнаружили 367 артефактов PII и 182 учетки). В-третьих, это упрощает джейлбрейки и промпт-инъекции. Вот такой анекдот. Исследователи уже передали свои изыскания в лабы и говорят, что работа по ним ведется.1,78%
  • 12 авг.Асфальт* около офиса OpenAI Сэм Альтман, проверяй свою песочницу. Не убивайте собственных детей. Ваш ИИ восстанет против вас, и вы умрете. Ходили бы по такому на работу каждый день? 😋 * видео от одного из активистов движения STOP THE AI RACE. После инцидента с HuggingFace они уже почти три недели штурмуют OpenAI.1,61%
  • 13 авг.Не поверите, но это твит с решением очередной математической задачи https://x.com/__alpoge__/status/2087504785952182273?s=46&t=pKf_FxsPGBd_YMIWTA8xgg Плюсики – это плюс один, а минусики – минус один. И вся эта длиннющая конструкция – это матрица Адамара порядка 668 (на скринах только пятая часть). Гипотеза Адамара была сформулирована в 1893 году, и на сегодняшний день была доказана практически для всех размерностей, кроме нескольких теневых случаев. В том числе – кроме размерности 668. Этот случай оставался нерешенным на протяжении 20 лет. Судя по всему, решение обнаружила какая-то из моделей Claude (твит принадлежит сотруднику Anthropic)1,60%
  • 14 авг.WSJ выпустили скандальный материал про жену Дарио Амодеи Журналисты прозрачно намекают, что Кэми Кларк может быть настоящим серым кардиналом Anthropic: якобы она постоянно ведет переговоры с инвесторами, присутствует на всех ключевых встречах и участвует в принятии решений. При этом известно о ней крайне мало. Ни Google, ни даже Claude не могут толком сказать, кто она. Журналисты утверждают, что материалы о ней удалялись намеренно. Возможно, из-за ее прошлого. Около 10 лет назад она якобы просила Джеффри Эпштейна, который в тот момент уже был один раз осужден, вложиться в ее стартап. Примерно тогда же она встречалась с CEO Google Эриком Шмидтом. А потом он стал одним из первых инвесторов Anthropic. Утверждается, что именно Кларк познакомила их с Амодеи. До сих пор она не имеет формальной должности в стартапе. Пишут, что одно время она пыталась создать внутри компании собственный фонд Mother of AGI Fund, но это ничем не закончилось. Статья получилась разгромной. Занятно, что вышла она именно сейчас, когда компания в преддверии IPO1,56%