Python/ django

🔥 Kimi K3 на 2,78 ТРИЛЛИОНА параметров запустили на CPU с 8 ГБ RAM. Без GPU, BLAS и фреймворков Проект kimi-k3-in-c реализует inference Kimi K3 практически с нуля на portable C99. Чекпоинт модели занимает 1,56 ТБ, но пик RAM при запуске составил всего 8,24 ГБ. Фокус в MoE и стриминге весов. Из 896 экспертов на токен выбираются только 16, а остальные веса не обязаны постоянно лежать в оперативной памяти. Огромная часть модели читается прямо с диска, поверх этого работает LRU-кэш экспертов. Цена такого трюка очевидна: скорость. При 8 ГБ RAM автор получил около 26,5 секунды на токен, при 64 ГБ уже 19,8 секунды, а на машине с 128+ ГБ, где нужные данные помещаются в память, около 5,6 секунды. Получается любопытная смена ограничения: гигантскую MoE уже можно заставить работать без серверной фермы. Вопрос теперь скорее в том, сколько диска и времени на токен вы готовы отдать за такой inference. github.com/FareedKhan-dev/kimi-k3-in-c #AI #Kimi #LLM #C #LocalAI

⚡️ QueryTuner - open-source инструмент, который разбирает SQL-запрос и показывает, почему он может тормозить. Подключаться к базе вообще не обязательно. Можно просто вставить SQL и получить диагностику. Поддерживаются сразу 5 диалектов: - PostgreSQL - MySQL - Oracle - SQL Server - SQLite Внутри два уровня анализа. 1. Детерминированный heuristic engine Он мгновенно ищет типичные anti-patterns: - SELECT * - функции внутри WHERE - leading wildcard в LIKE - потенциально отсутствующие индексы - ORDER BY без ограничения результата - другие проблемы производительности Сейчас заявлено 12 правил, и для них не нужны ни LLM, ни внешний API. 2. Опциональный AI-слой Можно подключить Qwen через Hugging Face или OpenAI. Тогда QueryTuner умеет: - объяснять проблему человеческим языком; - переписывать запрос; - предлагать CREATE INDEX; - объяснять, зачем конкретный индекс нужен. Особенно интересно, что можно передать ещё и CREATE TABLE DDL. Тогда рекомендации становятся schema-aware: инструмент видит реальные таблицы, колонки и существующие индексы. Например, для такого запроса: SELECT * FROM orders WHERE YEAR(created_at) = 2026; Хороший проект для тех случаев, когда SQL уже работает, но хочется понять, почему через полгода он начнёт работать плохо. #SQL #PostgreSQL #Database #OpenSource #DataEngineering https://github.com/AutoShiftOps/querytuner

без подписи

без подписи

без подписи

🖥 NVIDIA открыла бесплатный доступ к мощным ИИ-моделям через API В каталоге NVIDIA NIM можно использовать DeepSeek V4, GLM 5.2, Kimi K2.6, Nemotron и десятки других моделей без оплаты каждого запроса. Подключение занимает несколько минут: 1. Открываем NVIDIA NIM и создаём бесплатный аккаунт NVIDIA Developer. 2. Выбираем модель и нажимаем Get API Key. 3. Копируем ключ. 4. В Cursor, Cline, OpenCode или другом совместимом клиенте указываем endpoint: https://integrate.api.nvidia.com/v1 5. Вставляем ключ, выбираем идентификатор модели и отправляем тестовый запрос. API совместим с привычным форматом OpenAI, поэтому его можно подключать к собственным приложениям, агентам и инструментам для программирования. Важный нюанс: это бесплатные endpoints для разработки и прототипирования. Действуют ограничения по частоте запросов, возможны очереди, а список моделей и условия доступа NVIDIA может изменить. Действительно бесплатно способ протестировать дорогие модели без отдельной подписки. Источник: https://build.nvidia.com/

🔥 Harbor - единый фреймворк для тестирования и улучшения AI-агентов Сравнивать Claude Code, OpenHands, Codex CLI и других агентов сложно: у каждого свои команды, окружения и форматы результатов. Harbor превращает это в единый воспроизводимый пайплайн. Он позволяет запускать разные модели и coding-агентов на одинаковых задачах в изолированных контейнерах. Что умеет Harbor: - тестировать разные модели и AI-агенты; - запускать Terminal-Bench, SWE-Bench и Aider Polyglot; - создавать собственные бенчмарки и окружения; - параллельно проводить тысячи экспериментов; - собирать rollouts для RL-оптимизации; - работать локально через Docker или в облачных sandbox-сервисах. Установка: uv tool install harbor Пример запуска: harbor run \ --dataset terminal-bench@2.0 \ --agent claude-code \ --model anthropic/claude-opus-4-1 \ --n-concurrent 4 Harbor используется как evaluation harness для Terminal-Bench 2.0 и распространяется по лицензии Apache 2.0. По сути, это инфраструктурный слой для команд, которым нужно не просто запускать AI-агентов, а системно измерять их качество, сравнивать конфигурации и улучшать модели на реальных задачах. GitHub: https://github.com/harbor-framework/harbor

без подписи

🔥 Claude Thermos снижает расходы Claude Code, не давая prompt cache «остыть» Когда основной агент ждёт subagent дольше пяти минут, кеш контекста может истечь. После возвращения Claude приходится заново кодировать всю историю диалога по повышенному тарифу. В длинных сессиях это могут быть сотни тысяч токенов. claude-thermos запускает Claude Code через локальный прокси и периодически отправляет минимальный запрос с max_tokens: 1. Он не генерирует полезный ответ, а просто обновляет TTL кеша. Когда subagent заканчивает работу, основной агент читает дешёвый кеш вместо полной перезаписи контекста. Запуск: uvx claude-thermos Инструмент поддерживает обычный CLI, несколько терминалов и расширение VS Code через daemon-режим. Требуются Python 3.11+ и установленный claude CLI. По локальным измерениям автора на 185 сессиях, повторное создание кеша составляло около 22% расходов. Это не универсальный бенчмарк, но для тяжёлых агентных задач экономия может быть заметной. Простой open-source инструмент, который исправляет дорогую особенность долгих сессий Claude Code. GitHub: https://github.com/izeigerman/claude-thermos

без подписи

без подписи

🚀 Django 6.1 вышел: меньше магии, больше контроля Новая версия Django приносит улучшения для production-приложений и работы с базой данных. Главное новшество — новый подход к загрузке данных моделей. Теперь можно контролировать, когда Django делает дополнительные запросы: from django.db import models books = Book.objects.fetch_mode( models.FETCH_PEERS ) Это помогает бороться с проблемой N+1 запросов и лучше контролировать нагрузку на БД. Новые режимы: - FETCH_ONE — загружать данные только для текущего объекта; - FETCH_PEERS — догружать данные сразу для группы объектов; - RAISE — запрещать неожиданные запросы и ловить проблемы заранее. Также в Django 6.1: - поддержка Python 3.12, 3.13 и 3.14; - PostgreSQL 15+; - MySQL 8.4+; - MariaDB 10.11+; - улучшения cache и внутренних механизмов. Главная идея релиза: Django всё меньше скрывает стоимость операций и даёт разработчикам больше контроля над тем, что происходит под капотом. Подробнее: https://www.djangoproject.com/weblog/2026/aug/05/django-61-released/

🔴 Завтра тестовое собеседование на Middle Python с разработчиком из Авито Уже завтра вечером в 19:00 по мск приходи онлайн на открытое собеседование, чтобы посмотреть на настоящее интервью на Middle Python-разработчика. Как это будет: 📂 Даня, старший разработчик в Авито, будет задавать реальные вопросы и задачи разработчику-добровольцу 📂 Даня будет комментировать каждый ответ респондента, чтобы дать понять чего от вас ожидает собеседующий на интервью 📂 В конце можно будет задать любой вопрос Дане Это бесплатно. Эфир проходит в рамках менторской программы от ШОРТКАТ для Python-разработчиков, которые хотят повысить свой грейд, ЗП и прокачать скиллы. Переходи в нашего бота, чтобы получить ссылку на эфир → @shortcut_py_bot Реклама. О рекламодателе.

One Day Offer для Python-разработчиков!💚 15 августа открываем двери в команду Agent Execution Framework ⚡️ Коллеги создают платформу для GenAI‑агентов в банке — делают так, чтобы ИИ реально работал в серьёзных финпроцессах: с безопасностью, нагрузкой и пользой. Чем предстоит заниматься: ✔️ развивать backend на Python ✔️ подключать LLM, инструменты, базы знаний и RAG ✔️ строить пайплайны оценки качества агентов ✔️ участвовать в архитектуре и ревью кода Встречаемся 15 августа онлайн. Регистрируйся по ссылке

без подписи

🚀 LLMs-from-scratch пробил 100 000 звёзд на GitHub - и это уже одна из лучших практических баз по устройству современных LLM. Проект Себастьяна Рашки показывает весь путь с нуля - без магии высокоуровневых библиотек: - токенизация и attention; - pretraining; - классификация; - instruction fine-tuning; - LoRA, DPO и evaluation; - KV cache и оптимизация памяти; - эффективная загрузка весов. Причём репозиторий давно вышел за рамки «соберём маленький GPT». Там уже есть реализации Llama, Qwen, Gemma и OLMo с нуля, а также современные архитектурные техники: - GQA; - MLA; - Sliding Window Attention; - Gated DeltaNet; - DeepSeek Sparse Attention; - cross-layer KV sharing; - Mixture-of-Experts. Самое полезное - уменьшенные версии моделей можно запускать локально и подключать к тем же training scripts, чтобы реально экспериментировать с архитектурой, а не только читать статьи. Рашка продолжит добавлять новые варианты attention и архитектуры, а RL и Reasoning From Scratch развивает в отдельных репозиториях. Если хочется не просто использовать LLM через API, а действительно понять, что происходит внутри трансформера - это один из тех репозиториев, которые стоит пройти руками. 🔗 github.com/rasbt/LLMs-from-scratch #AI #LLM #MachineLearning #DeepLearning #OpenSource

Открыли регистрацию на E-CUP 2026 Students 🎓 В этом сезоне — только для студентов. Будет интересно тем, кто изучает ML / DS / big data / аналитику данных. Сможете ускорить модель по поиску дубликатов на 20%? Получится создать классификатор для модерации товаров? Сумеете предсказать поведение покупателя? Как минимум — попробуете и получите фидбэк от тех, кто делает это в Ozon Tech каждый день. Как максимум — разделите призовой фонд в 7 200 000 ₽ в торжественной атмосфере конференции E-CODE. Нетривиальные задачи, нетворк с ведущими специалистами индустрии, кастомный мерч и шанс масштабно усилить портфолио — это про E-CUP 2026 Students. Больше подробностей и регистрация ↩️

XY - новая open-source библиотека визуализации от команды Reflex. Она пытается объединить удобство Matplotlib с интерактивностью браузерных графиков и производительностью Rust. Для больших датасетов Rust-ядро XY вычисляет только то, что реально можно показать при текущем разрешении экрана. При приближении данные уточняются и появляются исходные точки. import xy chart = xy.line_chart( xy.line( [1, 2, 3, 4, 5], [120, 180, 165, 240, 310] ) ) chart Есть даже совместимость с привычным стилем Matplotlib: import xy.pyplot as plt fig, ax = plt.subplots() ax.plot(x, y) plt.show() По собственному бенчмарку разработчиков на Apple M5 Pro: - 100 млн точек в density-режиме - ~0,081 с; - 100 млн реальных маркеров без агрегации - ~1,34 с; - библиотека уже использовалась для визуализации датасета OpenStreetMap примерно на 10 млрд точек. Под капотом: Python API ↓ ColumnStore ↓ Rust compute ↓ binary buffers ↓ WebGL2 / Canvas Графики интерактивные: pan, zoom, hover, selection и linked charts. Их можно использовать в Jupyter и веб-приложениях, а затем экспортировать в HTML, PNG, SVG или PDF. Установка: pip install xy Если подход оправдает себя, XY может стать интересной альтернативой связке Matplotlib + Plotly для действительно больших датасетов. Источник: https://github.com/reflex-dev/xy #Python #DataScience #Visualization #Rust

Займи слот ИТ-Пикником от Т-Банка 8 августа — время отложить ноутбуки и встретиться офлайн на ИТ-Пикнике от Т-Банка в музее-заповеднике «Коломенское». Вот сколько всего запланировано: — научпоп-лекции; — мастер-классы; — дискуссии об ИИ и больших языковых моделях; — доклады о кибербезопасности; — примеры, как данные из логов становятся решениями; — много музыки — Сream Soda, IOWA, LAB Антона Беляева и другие артисты. Бери с собой друзей, супругов и детей — каждый найдет себе что-то по душе. Зарегистрироваться и узнать больше можно здесь

🚀 Neo4j без сервера: GraphForge запускает полноценный Cypher прямо внутри Python-скрипта GraphForge занимает редкую нишу между NetworkX и серверными графовыми БД. Вы получаете встроенный графовый движок на Rust, полный openCypher и хранение проекта в обычной директории. Что внутри: - четыре независимых слоя на Rust: parser → IR → planning → execution; - результаты сразу возвращаются как Apache Arrow Table; - данные легко передаются в Pandas и Polars; - постоянное хранение построено на Parquet; - встроены PageRank, Louvain и гибридный текстово-векторный поиск; - Python- и Node.js-биндинги работают поверх одного движка. from graphforge import GraphForge graph = GraphForge("research/") result = graph.execute(""" MATCH (a)-[:CITES]->(b) RETURN a.title, b.title """) print(result.to_pandas()) При этом GraphForge честно позиционируется как инструмент исследовательского и notebook-масштаба. Для миллиардных графов, высокой нагрузки и многопользовательского доступа по-прежнему нужна серверная БД. Python и Node.js доступны сейчас, Swift и Kotlin находятся в планах. Лицензия — Apache 2.0. https://github.com/CurateLabs/graphforge #RustLang #Python #OpenSource #GraphDatabase #DataScience #KnowledgeGraph