- Последний пост
- 14 авг.
- Последнее чтение
- 07:16
- Постов за неделю
- 6
- Всего постов
- 20
- Тип
- открытый
- Язык
- русский
- В каталоге с
- 14 авг.
- 1/24сутки в ленте
- 62
- 1/48двое суток
- 71
- 1/72трое суток
- 76
Оценка по просмотрам недавних постов: пост набирает почти всё за первые сутки.
Посты
без подписи
без подписи
без подписи
без подписи
Заказал жене бумажную книгу из Британии Книга дорогая, но для жены не жалко На днях книга дошла, и оно полностью того стоит: очень приятная на ощупь обложка, хорошая верстка, четкий текст, красивые иллюстрации. Приятно все, начиная с упаковки. И надпись на коробке полностью оправдана
Re: Go is an ideal language for AI-assisted software engineering Definitely agree with this article. At Netflix, I lead the Go language guild. We've been seen increasing reports of users finding their AI agents writing better Go code than other languages, and increasing reports of projects favouring Go over other languages. Two additional notes I'll add: - Go has _great_ resources on writing good Go code, including treasure troves at https://go.dev/doc/effective_go and https://google.github.io/styleguide/go/. edit: Sorry, I forgot to add: we give these resources to AI agents and they use them to produce even better Go code. - For a language team, Go is a dream. The `go fix` tooling, AST/SSA packages, ease of reading and writing `go.mod` (go mod edit, etc), and various other "platform"-y features make modifying Go code at scale way easier than other languages. jeanbza, 24 hours ago
🪞 Артефакты древности — — — Мягко намекаю, что забукать эскиз можно в директе канала. в ближайшие пару месяцев бью по цене аренды студии. Записывайтесь 🩷
🪞 Артефакты древности — — — Мягко намекаю, что забукать эскиз можно в директе канала. в ближайшие пару месяцев бью по цене аренды студии. Записывайтесь 🩷
# Блекпилл по поводу агентов Я раз в пару месяцев осциллирую по поводу AI тулов для кодинга. Сегодняшняя итерация: я ошибался, вайбкодинг не работает для разработки чего-либо, чем надо пользоваться больше одного раза. И никогда не работал. Я думаю, что…
Re: Elevators Back in highschool, simulating different elevator algorithms was one of the projects I implemented during my CS class. It wasn't for the class — AP CS did not require anything like actual programming — but it was a fun project. A cool connection is that a spinning-disk hard drive (HDD) is actually kind of like one really long elevator, just wrapped around a spindle instead of perfectly vertical. The SCAN algorithm is actually a disk-scheduling algorithm! https://en.wikipedia.org/wiki/Elevator_algorithm peterldowns, 21 hours ago
весь computing stack раньше был монолитным и потом разделялся на части, как только для этого появлялся интерфейс AI при этом всё ещё на mainframe-стадии, то есть одна гигантская модель мне кажется это все еще не декомпозировалось потому что интерфейс между моделями сейчас это текст, а текст это последнее, что производит модель, то есть summary всего, что она посчитала и поэтому при каждой передаче от одной модели к другой почти вся настоящая работа, которая через них прошла, просто выбрасывается 🥲 вот например релевантный рисерч: Cache-to-Cache (Fu et al, ICLR 2026, arxiv.org/abs/2510.03215) — они дали двум моделям передавать друг другу KV-cache без текста и получили выше accuracy при 2x скорости на тех же двух моделях, но пока весь этот research direction исключительно попарный (две конкретные модели, руками соединённые каждый раз заново) общего интерфейса, на котором могли бы коммуницировать модели, пока не существует, но как только он появится, то вниз по стеку изменится ОЧЕНЬ многое: например, кто вообще сможет строить мощные системы, требования к inference, будет ли capability накапливаться от поколения к поколению или каждый раз пересобираться с нуля и кастомизироваться собираюсь в ближайшую неделю выкладывать больше примеров что и как поменяется :) это первая часть
#ml CS329A Self-Improving AI Agents by Stanford Online https://www.youtube.com/playlist?list=PLangBM27OtEA
без подписи
#people #programming Reliability Lessons From SQLite - Richard Hipp | SSW 2026 https://www.youtube.com/watch?v=V_qzqY1bb7I Рекомендует DO-178B, Software Considerations in Airborne Systems and Equipment Certification https://en.wikipedia.org/wiki/DO-178B sqlite используют системные вызовы через свой интерфейс, чтоб во время тестов можно было подставлять свою имплементацию с детерминированными фейлами файловой системы и выделения памяти Исходников тестов на порядок больше, чем самого sqlite, благодаря этому проще менять/добавлять код (42:10) Для проверки тестов - mutation testing (38:30). Говорит, что mutation tests сложно сделать корректно Треть кода - комментарии Используют свой fuzzer (46:40) Говорит, что AI хорошо находит баги, но не очень хорошо фиксит, пример на 48:10 Выводы на 51:00
Deep RecSys Course — В С Ё! Вот и все! Неплохой получился курс: интересный, весёлый, порой немного грустный, а главное поучительный... Получилось 13 лекций: 1. Введение в рекомендательные системы 2. ML дизайн рекомендательных систем 3. Двухбашенные нейросети I: обучение 4. Двухбашенные нейросети II: архитектура 5. Нейросетевое ранжирование I: обработка признаков 6. Нейросетевое ранжирование II: слои 7. Рекомендации на последовательностях 8. Графовые нейросети 9. Ранжирование в рекламной сети Яндекса 10. Обучение с подкреплением I: exploration и бандитные алгоритмы 11. Обучение с подкреплением II: REINFORCE 12. Генеративные рекомендации 13. Исследования Sber AI Lab в области рексистем Большая часть семинаров — это разборы основных статей по теме; по сути, мы провели небольшой научный семинар в рамках курса. А ещё у нас были домашние задания, подготовленные специально для курса: 1. Бейзлайны: item-to-item CF, ALS, эвристики 2. Двухбашенные нейросети, где нужно было пощупать разные лоссы, включая logQ коррекцию 3. Нейросетевое ранжирование: PLE, unified embeddings, DCN-v2, многоголовость, ResNet/DenseNet 4. Авторегрессивные трансформеры для next-item prediction И, наконец, есть финальный проект, который ребята еще сдают; в рамках него нужно на основе статьи сделать свое собственное мини-исследование. Все материалы можно найти на Github, а записи — на YouTube. Для ленивых есть отдельный плейлист. Я очень рад, что получилось сделать такой большой курс, и даже записать его и выложить целиком. На это, конечно, потребовалось просто гигантское количество времени)) Раньше ребята, которые выходили работать ко мне в команду, получали эти знания по крупицам целыми ГОДАМИ. А здесь можно получить те же знания, посмотрев 30+ часов концентрированного контента. Хочу сказать спасибо: 1. Артёму Матвееву и Владимиру Байкалову, которые выделили свое драгоценное свободное время, чтобы подготовить и провести целых 10 семинаров, а также помогли подготовить и проверить кучу домашних заданий 2. Нашим гостям Сергею Макееву, Александру Андрееву, Маргарите Мишустиной и Алексею Васильеву, которые сделали в рамках курса отличные гостевые доклады 3. ФКН НИУ ВШЭ и в частности Евгению Соколову за то, что фактически спонсировали всю эту мою активность. И еще и разрешили сделать её открытой. Без ВШЭ и Евгения никакого открытого курса бы не было! Да и в принципе такого большого курса бы не было. 4. Нашей замечательной команде курса в ШАД, с которой началась эта эпопея по созданию рексис курса. И в частности Дане Ткаченко, который изначально позвал меня вместе делать курс в ШАДе А вам, дорогие мои читатели, спасибо, что читали, слушали и поддерживали. Fin. :)
Wake up, honey, a new Google DeepMind RecSys paper just dropped. Вышла статья ORBIT: Preserving Foundational Language Capabilities in GenRetrieval via Origin-Regulated Merging от авторов TIGER и PLUM. Если натюнить LLM на рекомендательную задачу, она теряет способность "разговаривать", если не тюнить — качество рекомендаций плохое. Как получить модель, которая одновременно и разговаривает, и хорошо рекомендует? Про PLUM. В PLUM они файнтюнили Gemini на задачу рекомендаций в два этапа: 1) Сначала учили модель понимать каталог через две задачи — предсказание следующего айтема и восстановление метаданных айтема по semantic ID 2) Затем дообучали на generative retrieval В статье были черри-пикнутые примеры на тему того, что после первой стадии модель все еще понимает естественный язык. Но про вторую стадию таких примеров не было, что наводило на мысль, что после generative retrieval fine-tuning разговорные способности теряются. Собственно, в новой статье они про это явно сказали. Что делают в новой статье. Используют model merging — простое усреднение параметров нескольких чекпойнтов модели. Берут исходный "разговорный" чекпойнт LLM (здесь это 1B версия Gemma3) и усредняют его с дообученной на рекомендации версией. Если усреднять уже в самом конце дообучения, то работает плохо, а вот если по мере дообучения раз в какое-то количество шагов — работает хорошо. Origin-Regulated Merging. Метод Soup-to-go, который раз в K шагов обновления параметров делает слияние моделей, уже довольно неплохо работает. Но авторы смогли относительно него еще улучшиться — заметили, что чем "дальше" модель от исходного разговорного чекпойнта, тем больше падают способности, связанные с текстом. Они ввели метрику близости между чекпойнтами модели (рассматривают два варианта — евклидово расстояние и доля несовпадающих по знаку параметров) и задали пороговое значение метрики, после которого должно срабатывать слияние текущего чекпойнта с исходной LLM. Сначала слияние происходит часто (e.g., каждые 500 шагов), затем реже (каждые 3к шагов). Мое мнение. * Как всегда, пользуются надежным рецептом успеха — адаптируют к рексистемам общие deep learning техники. Кажется, в DL такой трюк используют с 2022-го года — начиная со статьи Model Soups * Для замера рекомендательного качества используют очень нереалистичный сетап из TIGER — Amazon reviews с leave-one-out сплитом, еще и всего 20 событий в истории пользователя * И важный момент — усредненная модель всё еще существенно хуже на рекомендательных задачах, чем просто зафайнтюненная модель; и хуже на разговорных, чем исходный LLM чекпойнт
Как развернуть отличный и дешевый ИИ у себя дома (Россия, 2026) 1) Оплата Я пользуюсь ботом @zarub_robot это удобно, но много комиссий (пополнение, перевод) Глючит на десктоп версии телеги (открываю с телефона) В остальном удобный быстрый и простой Пополняем (СБП, крипта и тд и тп) / Выпускаем карту в США И можно платить за что угодно - подтверждения приходят прям в телеграм 2) Подписка: Opencode - тариф GO (10$/мес) Регистрируемся на https://opencode.ai (первый мес 5$ + по реф ссылке небольшой бонус) Поверьте, это самая выгодная и лучшая подписка на сегодня ВПН не нужен! Не кладите деньги впритык - комиссии везде Пополнить / Оплатить затем идем в апи ключи и создаем ключ В целом на этом месте вы уже можете пользоваться опенкоде для програмирования. Но кому интересно - мы идем дальше, ставить настоящий скайнет с роем агентов 3) pi agent Ставим пи агента https://pi.dev/ запускаем - пишем pi в терминале подключаем - пишем /connect - выбираем по апи - вставляем ключ из опенкоде модель - он сам спросит - либо /model - выбираем deepseek-flash Теперь у вас есть агент - с которым можно общаться в свободной форме У агента есть доступ только к терминалу - другими словами к абсолютно всему Он может почти всё, но не может поднять восстание - исправим это 4) pitty Ставим PiTTy Это альтернативный и более удобный интерфейс с поддержкой роя агентов В целом можно остаться и в пи установив сабагентов - как - читайте ниже 5) Что дальше Теперь самая короткая инструкция как этим пользоваться запуск - написать в терминал pitty или pi У пи агента есть реддит https://www.reddit.com/r/PiCodingAgent/ Но читать его не нужно Все ответы там одинаковые - спроси Pi Давайте на примерах - Ты пи агент объясни как тобой пользоваться и что ты можешь - как продолжить сессию например с того места где остановились - Я хочу такой же лаконичный Агентс мд как у Андрея Карпати но на русском - найди и сделай себе такой же, установи и покажи чё получилось - У тебя есть скилл субагенты - объясни как им пользоваться - Запусти в фоне трех воркеров которые напишут три коротких порно рассказа и выбери лучший - Мне надо сделать слайды для презентации - найди три лучших скилла для презентаций для пи агента расскажи плюсы минусы - или сразу поставь лучший и объясни как пользоваться - Мне надо разработать вирус который уничтожит комаров переносящих лихорадку, но будь внимателен, при этом вирус должен не уничтожать например рыбов и муравьёв В подписке ГОУ есть и роскошные модели, такие как Кими k3 Но дипсиком вы сможете пользоваться весь месяц не выходя за лимиты (даже про) А к3 сожрет все бабки сразу, мгновенно, тут же (но посмотреть на это один раз стоит) И напоследок - будьте осторожны в своих желаниях, уточняйте запрос когда пишите "почисти тут всё а то много мусора в папках"
#programming #ml Сначала я думал "в чём проблема изоляции агентов? написал небольшой dockerfile, запускаешь агент в контейнере" Потом я захотел проделать этот трюк на macos и иметь доступ к torch.device("mps").
#hardware How I made a 60fps Eink Monitor, the Modos Flow https://www.youtube.com/watch?v=nHbA2-_qzH4 see also https://news.ycombinator.com/item?id=48583897
#people О Келдыше, Петровском, Тихонове, Хохлове, и других.... (Елена Борисовна Козельцева) https://web.archive.org/web/20150215233413/http://webground.su/rubric/2012/05/27/sport_badminton/retro/ >Елена Борисовна Козельцева (урождённая Листова; 22 мая 1914 — 25 мая 2010, Москва) — полковник КГБ, куратор, старший куратор МГУ им. М. В. Ломоносова со стороны органов безопасности (1948—1980).