Навука и моя жизнб
СтатистикаПро жизнь, ML и мемы :) Автор https://t.me/pansershrek
- Последний пост
- 14 авг.
- Последнее чтение
- 15 авг.
- Постов за неделю
- 13
- Всего постов
- 27
- Тип
- открытый
- Язык
- русский
- Категория
- Развлечения
- В каталоге с
- 12 авг.
- 1/24сутки в ленте
- 51
- 1/48двое суток
- 58
- 1/72трое суток
- 63
Оценка по просмотрам недавних постов: пост набирает почти всё за первые сутки.
Посты
видео или голосовое, без подписи
видео или голосовое, без подписи
Независимые исследователи нашли способ полностью восстанавливать скрытый ризонинг фронтирных моделей https://arxiv.org/abs/2608.09867 В статье они показывают, что зашифрованный ризонинг любой модели OpenAI, Anthropic и Google можно декодировать буквально 1:1, при этом без джейлбрейка модели. Авторы нашли архитектурную дыру: зашифрованные блоки ризонинга полностью совместимы и взаимозаменяемы между разными сессиями, пользователями и моделями внутри экосистемы одного провайдера. Например, если взять зашифрованный ризонинг Opus и подсунуть его менее умному Haiku, то тот может прочитать эти «мысли» и вывести их дословно в открытом виде. Вот так просто 🤷♂️ Последствий пропасть. Во-первых, с помощью такой уязвимости можно обходить анти-дистилляционные меры. Во-вторых, в открытых репозиториях куча таких скрытых блоков ризонинга, в которых могут оказаться чувствительные данные (в статье в выборке из 315 320 блоков обнаружили 367 артефактов PII и 182 учетки). В-третьих, это упрощает джейлбрейки и промпт-инъекции. Вот такой анекдот. Исследователи уже передали свои изыскания в лабы и говорят, что работа по ним ведется.
видео или голосовое, без подписи
⚡️ Диффузионные языковые модели: что в них работает, а что вызывает вопросы Выложили большой разбор dLLM — результат совместной работы нескольких команд: «Интерпретируемый ИИ» лаборатории FusionBrain, «Основы генеративного ИИ» Института AIRI (@Ivan_Oseledets) и «Генеративная поэзия» Сергея Маркова (@oulenspiegel_channel) SberAI. tldr: год возились с диффузионными языковыми моделями — воспроизводили чужие методы, обучали свои, ускоряли инференс. Разобрали за вас целое поле и рассказываем, что уже стоит брать, а куда пока лучше не вкладывать время. Для тех, кто не в теме: dLLM генерируют текст не по одному токену слева направо, а параллельно, раскрывая замаскированные позиции по всей последовательности. Отсюда обещание кратного ускорения — но на практике всё упирается в KV-кэш, который в классической диффузии нормально не работает. Мы разобрали три подхода — и вот что у нас получилось: Адаптация — переучить готовую LLM в диффузионную за небольшую долю стоимости исходного претрейна. Сегодня это основной путь к большим dLLM — так получают модели вплоть до сотен миллиардов параметров. У нас DiffuGPT/DiffuLLaMA не воспроизвёлся: нашли и исправили кучу проблем в коде, прогнали на GPT-2, Qwen и GigaChat — но генерация всё равно осталась плохой. Зато ReFusion + GigaChat 3B завёлся: 2,7× ускорение по wall-clock и более чем 2× рост на GSM8K. Обучение с нуля — дорого и почти всегда не нужно в прикладном сценарии, но без него сложно проверять методические гипотезы. Разбираем MDLM как полигон для экспериментов и Eso-LM, где ради работающего KV-кэша пожертвовали двунаправленным вниманием. Дистилляция — ускорить уже обученную модель, сократив число шагов расшумления. Рассказываем про свой метод IDLM (ICML 2026): для MDLM число шагов сокращается с 1024 до 16. В конце — таблица с рекомендациями: какой подход выбирать под конкретную задачу и ограничения. 👉 Хабр
А какие скиллы вы писали в резюме? )
видео или голосовое, без подписи
тут индийские товарищи (господа?) выпустили обзор состояния ИИ-индустрии в России довольно интересный взгляд со стороны, хотя есть конечно вопросики; откуда они взяли, что Яндекс - это госкомпания? в другом месте, правда, написано, - финансируемая государством, но хрен редьки не слаще; DeepPavlov у них тоже финансируется государством, но при этом релоцировались - как одно с другим уживается, неясно; МТС у них также государственный среди чипов перечислены только AltAI и Мультикор от новосибирского Элвиса; ни про LinQ, ни про Модуль, не упомянуто (говорили про них - тут) P.S. зато про наш Cotype написали, милота @valuableai
look inside: kimi25
Пу-пу-пу
видео или голосовое, без подписи
🌸Релизим Muse Glimmer 30B 🌸 Впервые за долгое время, наконец-то релизим большой командой новую открытую LLM от Meta Superintelligence Labs. Веса под Apache 2.0! 🌸Что это за модель: — 30B dense модель, дистиллированная версия Muse Spark для локального инференса на 1 GPU — юз-кейсы: OpenClaw, MCP, и агентные тулзы — общие способности (ризонинг, знания, кодинг) тоже на высоком уровне для модели такого размера. — очень быстрый инференс: 233 токена/сек на 5090 благодаря DFlash spec decoding — по ключевым способностям — агентные воркфлоу, swe bench, ризонинг — лучше Qwen 3.6 и Gemma 4 31B — есть мультимодальный инпут (картинки и видео) — больше 100 языков в претрейне — контекст 131к токенов — есть дополнительный safety probe в дополнение к модели Пожалуйста, скачивайте, пользуйтесь, — и ждите тех репорт и доки! На неделе постараемся выпустить инференс у партнёров и доки по деплою на llama.cpp, ExecuTorch, MLX. 🟣Блогпост https://research.meta.ai/blog/introducing-muse-glimmer-open-agentic-model 🟣 Веса https://huggingface.co/meta-models/Muse-Glimmer-30B 🟣Доки: (пока что такие же как у Muse Spark) https://dev.meta.ai/docs/cookbook
Llama умерла, да здравствует Muse 💃 Пока что, цепляет что сразу выкладывают сразу DFlash драфты, остальное надо проверять, чтобы не было как с Llama 4 (я все помню 🙅♂️)
А почему Anthropic до сих пор не заявили, что Qwen 3.8 это дистилляция из Fable?
ИИ в математике и диссертациях В последний месяц пошел вал новых математических результатов, полученных с помощью ИИ. 100%, что гонка только началась. При этом получить степень к.ф.-м.н зачастую можно было по 1 статье, тк придумать и решить математическую задачу было ого-го как сложно. Примеры выгоревших математиков я видел. Но с ИИ новые математические результаты и статьи могут политься как из рога изобилия! Как отреагирует академическая система? Скорее всего, с явным опозданием. Поэтому мы можем наверняка увидеть в ближайшие пару-тройку лет явный всплеск по защиаютам кандидатских по математике. Да что греха таить - по многим областям науки, скорее всего. И система как-то начнет меняться в ответ.
SafetyBench: Russian-language LLM safety benchmark for toxicity evaluation and jailbreak robustness testing grounded in Russian law #AINL2026 #NLP 📺 https://www.youtube.com/watch?v=6SvzoQHfd7w ▶️ https://vkvideo.ru/video-38193760_456239047?list=ln-KERAZuWKiz49sZCjNZ
Вышла запись доклада статьи 🎧
Забавный факт: вам бы понадобилось 1080 gtx1080 чтобы запустить эту модель в fp16
Хорошая новость для мира OpenSource – вышли веса Kimi K3, найти их можно здесь!!!!! Честно сказать, у меня были сомнения, а не захотят ли такую хорошую модель закрыть, но к счастью они развеялись 😌 P.S. В ближайшую неделю надо активно шортить Nvidia/Google и других американских гигантов 😂
видео или голосовое, без подписи