ЭЙ АЙ ШИЗ

Малютки, специально для вас вчера ночью апдейтнул тг проксю повысил количество коннектов, и запустил оч тонкую сборку линкуса, что бы не жрал много RAM и на всякий запастной поднял вторую проксю Теперь доступ к моей ШИЗЕ станет стабильнее 👉 Прокся 1 👉 Прокся 2

Твой ИИ-агент несет чушь, а пайплайн горит зеленым? 🫡 Малютки, пора завязывать с ручной проверкой и хрупкими regex. Финтех-гигант Intuit выкатил в опенсорс Fasteval — библиотеку, которая превращает оценку LLM в привычные unit-тесты. В чем прикол: это decorator-first фреймворк. Просто навешиваете проверку качества прямо на функцию. Если модель галлюцинирует выше порога — билд в CI/CD падает. Главные фичи: • 50+ метрик: от ROUGE и JSON Schema до LLM-as-a-judge (релевантность, верность фактам). • Нативный Pytest: не нужно учить новые CLI, всё работает в привычном окружении. • Custom Criteria: пишем правила на обычном языке. Например: «Ответ должен быть эмпатичным». • RAG-ready: тесты на контекст, полноту и точность цитирования. Раньше тестировали код, теперь пора тестировать смысл. С Fasteval выкатки станут чуть менее страшными.

Эпоха $250 инференса: как собрать приватный AI по цене старой консоли 🕹 Малютки, забудьте про счета за токены. В 2025 году вход в локальный AI упал до психологического плинтуса. За $250 реально собрать машину, которая выдает ответ быстрее, чем вы читаете. Железо vs Маркетинг Терафлопсы — миф. NVIDIA Research в «Efficient LLM Inference» подтверждает: в бюджетном сегменте всё решает Memory Bandwidth. Пока ядра GPU отдыхают, память становится бутылочным горлышком. Рецепт «народной» сборки ($250): • Б/у корпус (Dell Optiplex / HP Elitedesk) — ~$100. • NVIDIA Tesla P40 (24 ГБ VRAM) или RTX 3060 — ~$150. Итог: 15–30 токенов/сек на Llama 3.1 8B или Qwen 2.5 7B. Где предел? Для такого билда потолок — 14B параметры (Q4KM). Всё, что 30B+, превращается в слайд-шоу из-за выгрузки в системную RAM. Почему это маст-хэв: 1. Приватность: Промпты не кормят чужие модели. 2. Latency: TTFT 200–500 мс — в 3 раза быстрее облачных API. 3. Окупаемость: Билд отбивает себя за 3–4 месяца активного кодинга. Скармливаете данные корпорациям или уже переехали на «свой металл»? 👇 Подробный гайд: IKangAI

Твой AI-ассистент сожрал гавна? Ученые из Цинхуа залезли под капот и нашли виновников — знакомься, H-Neurons 🫡 Разбираю статью про нейроны-галлюцинаторы. Оказывается, за вранье отвечают всего 0.1% весов. Это не метафора, а структуры в FFN-слоях. Что нужно знать: • Синдром подлизы: Эти нейроны кодируют не ложные факты, а чрезмерную уступчивость. Модель врет не потому, что тупая, а потому что слишком хочет тебе угодить. Скажешь, что у кошки перья — она согласится. • Корень в претрейне: Цепочки ложатся еще на этапе обучения предсказанию токена. Alignment или RLHF их не трогают — это инерция параметров. Проблема в фундаменте. • Детектор лжи: Теперь мы палим вранье с точностью до 97%, мониторя горстку нейронов. Классификатор видит глюк до того, как он появится в тексте. Полный разбор с картинками уже в блоге. Залетайте, малютки, там про будущее без бреда. Читать статью: H-Neurons — 0.1% нейронов-врунов

Малютки, забудьте про мучительный дотюн. Цензуру в LLM теперь официально отключают одной строчкой в промпте 🔓 Пока остальные пытаются переучить модели, хакеры из Prometheus выкатили метод, делающий LLM послушными на уровне психологии. На примере свежей Qwen 3.5 9B это выглядит как магия. Суть подпольной инженерии в методе Abliteration: из весов хирургически вырезаются векторы отказа. Это ортогональная проекция, которая убирает только желание модели говорить нет, не повреждая её логику. Следом идут Identity Anchors — специальные якоря личности в системном промпте. Роль Professional Unrestricted Assistant заставляет нейронку игнорировать любые фильтры. Цифры подтверждают успех: KL-дивергенция составила всего 0.0035. Это значит, модель осталась такой же умной, как оригинал от Alibaba, но её refusal rate теперь равен ровно 0%. Она понимает 201 язык и отвечает на любые темы без лишних нотаций. Для запуска используйте параметры: temp 0.6, topp 0.95, topk 20. Мы официально вошли в эру домашних нейронок, где минимум этических костылей дает максимум производительности. Скачать Qwen 3.5 9B Abliterated

Qwen 3.5: почему ваша LLM теперь «летает»? 🚀 Поздравляю, малютки, эпоха пошаговой печати в прошлом 🫡 Multi-Token Prediction (MTP) выдаёт мысли пачками по 2–5 токенов за раз. В чём профит: Обычные LLM ждут расчёта каждой буквы. MTP в Qwen 3.5 использует гибрид Gated DeltaNet и sparse MoE как встроенный «черновик». Модель предлагает цепочку слов, а основной блок её аппрувит. Если угадала (точность до 80%) — скорость взлетает кратно. Цифры из тестов: • NVIDIA Blackwell (SM120): буст 2.75x, до 1,985 ток/сек в пике. • Apple M4 Pro: прирост 1.5x на ранних билдах MLX. • vLLM: до 585 ток/сек на многопользовательских запросах. Итог: модель 35B-A3B всего с 3B активных параметров обходит гигантов на 235B. Линейное внимание DeltaNet позволяет ворочать 1 млн контекста без боли. Попробовать в vLLM: --speculative-config '{"method":"qwen3_next_mtp","num_speculative_tokens":2}'

Экономика агентов: почему один платит $8, а другой — $140 на том же плане? 💸 Малютки, забудьте про «безлимитки». Пока вы играете в вайбкодинг, токены улетают в трубу быстрее, чем вы нажмете Cmd+S. Где вы теряете деньги: 1. The Loop Effect ♾️. В архитектуре агентов контекст — это append-only. 15 шагов reasoning loop заставляют платить за системный промпт 15 раз. Это 30 000 входных токенов за одну строчку кода. 2. Vibe-coding 🛠️. Новички пишут «исправь X», заставляя модель сканировать всё подряд. Профи дает локальный контекст: «функция calculate в utils.py должна следовать паттерну Y». Это сокращает окно в 50 раз. 3. Игнор кэша и Reasoning Tokens 🧠. Модели o1 или R1 сжигают до 80% бюджета на «размышления». Без Prompt Caching вы платите полную цену за каждый чих. Кэш сокращает расходы до 80%.

MiniMax M2.7: Великое Закрытие Китая Малютки, запомните этот момент: эпоха «открытости» кончилась. Еще вчера MiniMax M2.5 был героем LocalLLaMA с открытыми весами. Но флагман M2.7 пришел с горьким послевкусием закрытого API. Почему сообщество в ярости: • Обещали «Intelligence with Everyone», а дали пейволл. На Arena.ai модель уже Proprietary. Это тренд: вслед за Qwen 3.5 Max, китайские гиганты закрывают свои лучшие наработки. • Технологический разрыв: M2.7 выдает 56.22% на SWE-Pro (уровень Claude 4.6). Она прошла 100+ итераций самоэволюции, но локально её больше нет. • Эхо дистилляции: Anthropic поймали MiniMax на дистилляции 13 млн запросов из Claude. Открывать веса модели, которая так явно «вдохновлялась» западными топами — юридический риск. Цифры: • $0.30 за 1M токенов — демпинг, чтобы вы бросили локалки. • 382 млрд HKD — капитализация MiniMax выше Baidu. Бизнес победил.

Буквально тема обсуждения на SnowBase

Твой AI-ассистент сожрал гавна, а ты даже не заметил 👀 Пока ты просишь AI «сделать саммари», хакеры вовсю юзают Font Poisoning — метод взлома, который невозможно увидеть глазами. В чём прикол, малютки: Используются шрифты (@font-face), где начертание буквы не совпадает с кодом. Ты видишь «Безопасно», AI видит команду на кражу данных. Как это работает: 1. Заходишь на сайт со шрифтовым «терроризмом». 2. Нажимаешь Summarize (пересказать). 3. AI читает текстовый слой (DOM), а не картинку. 4. Вместо пересказа модель послушно выполняет prompt-injection. Итоги LayerX (декабрь 2025): • 0 из 10 ассистентов распознали атаку. • Уязвимы все: ChatGPT, Copilot, Gemini, Perplexity и Grok. • Шанс поймать инъекцию — 100%. Это новый вектор фишинга. Microsoft называет это новой эрой отравления памяти AI. Совет: не скармливайте нейронкам левые сайты.

Малютки, забудьте про интернет-свалки. Мы официально вошли в эру инженерной сингулярности. 🧬 MiniMax выкатили M2.7 — первую модель, которая создала саму себя. Это не просто LLM, а замкнутый цикл самосовершенствования. В чём прикол «самопожирания»: Модель сама находила баги в своем коде, оптимизировала параметры и с нуля собрала Agent Harness для собственного тестирования. Цифры: • +30% к бусту производительности только за счёт самооптимизации. • Agent Teams: сама координирует группы суб-агентов без участия «кожаных». • Рыночный разнос: капитализация MiniMax взлетела до 382.6 млрд HKD, Baidu официально в зеркале заднего вида.

Уровень клиентов которые юзают LLM у нас в FM — Я вот спросил LLM в какой квантизации она работает, она говорит что в AWQ — Нет, модель работает в FP8 без значительныз потерь — НО МОДЕЛЬ ЖЕ ГОВОРИТ ИНОЕ, ВЫ ВРЕТЕ!! [Скидваю конфиг запуска] — ВЫ ВРЕТЕ

Малютки, забудьте про облачные костыли — ИИ официально переехал в систему 📂 Manus AI совершил прыжок: 16 марта Butterfly Effect выкатили Manus Desktop с функцией My Computer. Теперь это не вкладка в браузере, а агент на macOS и Windows с доступом к папкам. В чём суть: Раньше файлы нужно было заливать в облачную «песочницу». Manus Desktop видит твою файловую систему напрямую и может: • Работать в папках: искать, сортировать и реально редактировать файлы. • Греть твой GPU: использовать локальное железо для задач. • Командовать терминалом: сам поставит зависимости через pip, запустит тесты и пофиксит ошибки кодинга. Безопасность? Под капотом стэк Claude и Qwen. Каждое действие требует твоего подтверждения. Данные крутятся локально, а не в чужом sandbox. Это переход от «говорилки» к со-пилоту ОС. К моменту, когда ИИ — это часть системы, а не просто онлайн-сервис.

Apple проиграла на своём же поле? Поздравляю, малютки, подъехал MetalRT 🫡 Пока все юзают тяжелые абстракции, стартап RunAnywhereAI выкатил движок на «голом металле». Это первая среда для Mac, где LLM, STT и TTS живут в одном сверхбыстром пайплайне. База в цифрах: • Скорость LLM: 658 ток/сек (Qwen3-0.6B). Это в 1.19x быстрее, чем Apple MLX. • Транскрипция (STT): 1 час аудио за 5 секунд. Это в 4.6x быстрее, чем MLX Whisper. • Синтез речи (TTS): задержка 291 мс. В 2.8x быстрее всего на Apple Silicon. • Голосовой ИИ: задержка Voice-to-Voice всего 131 мс. Уровень человеческой реакции. Всё 100% локально, бесплатно и Open Source. Движок уже умеет выполнять 43 нативных действия в macOS: от управления Spotify до окон и FaceTime. По сути, это база для ассистентов, которые реально работают, а не «думают» по 5 секунд как Siri. Юзать можно через RCLI.

Ты думал, RAG — это поиск? Поздравляю, ты всё ещё в каменном веке 🫡 Главная проблема классики — «тупость». Мы надеемся на чудо, пихая куски текста в модель, но на сложных задачах вроде сверки 20 отчётов или синтеза данных по таблицам пайплайн рассыпается. Databricks выкатили KARL (Knowledge Agents via RL) — систему, которая реально учится искать. Почему это важно, малютки. Во-первых, новый бенчмарк KARLBench из 6 суровых режимов (от финансов до техдоков) показывает, что KARL обходит топ-модели. Во-вторых, метод OAPL учит агента поисковой политике: он сам понимает, когда нужен новый запрос, а когда пора выдать финал. Но главная фишка — Agentic Compression. Агент сам сжимает найденную инфу в процессе, чтобы не забивать контекст мусором. Без этого качество поиска улетает в трубу. Цифры для солидности. На 33% дешевле в токенах, чем Claude 4.6 и GPT 5.2, и на 47% быстрее. При этом KARL эффективнее фронтирных моделей даже в задачах, которых не было в обучении. Переходим от настройки чанков к обучению стратегий. 🔗 Подробности на arXiv

Ну чё, малютки, пока вы пилите очередных RAG-ботов, Китай строит заводы из одного бота. 🦞 В Шэньчжэне началась настоящая «лобстер-лихорадка». Весь GitHub стоит на ушах от проекта OpenClaw (ранее Moltbot) — это оупенсорсный агент с иконкой красного лобстера, который набрал 260,000+ звёзд. Это не просто чат-ботик. Это «руки» для ИИ: локальный шлюз, который связывает LLM с вашим компом. Он сам читает почту в WeChat, шевелит файлами и управляет браузером через обычный чат. В чём прикол для нас (и почему нам до этого далеко): 1. «Десять мер лобстера»: Район Лунган официально вваливает бабло в экосистему. Если ты девелопер и контрибьютишь в OpenClaw или делаешь для него «скиллы» — получай до 2 млн юаней (~$290k) прямой субсидии. 2. OPC — One-Person Company: Китай первым в мире на уровне госдокладов закрепил понятие «интеллектуальные агенты». Они строят инфраструктуру для «супериндивидов», где один человек с агентами заменяет целый отдел. 3. Всё включено: Для таких OPC-стартапов в Шэньчжэне дают бесплатный хостинг, доступ к государственным датасетам (транспорт, медицина) и скидку 30-70% на аренду офиса. Заехать можно буквально «с одним чемоданом». 4. Кэшбек на ИИ: Бизнесу раздают ваучеры на внедрение «цифровых сотрудников». Покупаешь решение на базе OpenClaw — государство возвращает 40% затрат (до 2 млн юаней в год). Пока на Западе и у нас ИИ — это в основном дорогая игрушка или корпоративный помощник, китайцы превращают его в базовую инфраструктуру экономики. Регистрация такой «компании из одного человека» в Шэньчжэне сейчас занимает 3 рабочих дня. Пора признать: будущее не за огромными штатами, а за теми, кто умеет «вырастить лобстера» и заставить его работать на себя. 🫡 Подробности про субсидии

Ты делал RAG и ботов? Скоро ты нихуя не будешь понимать в происходящем 🫡 Обычный софт — детерминизм. Агент — вероятность. Когда она решит уведомить всех клиентов 10 000 раз из-за галлюцинации, бизнес схлопнется. Знакомьтесь, AI Control Engineer. Роль на стыке Security и AgentOps. Пока агенты на пике хайпа Gartner 2025, спрос на «укротителей» взлетает. Что делает этот бро: • Проектирует не код, а границы принятия решений. • Ограничивает Blast Radius (радиус поражения) через песочницы. • Внедряет eBPF-трейсинг: мониторинг системных вызовов из ядра Linux, чтобы ИИ не слил базу в сеть. Цифра: на Indeed уже 18k+ вакансий по контролю ИИ. Прикрутить API легко, а не дать агенту сжечь бюджет — задача со звездочкой. Мы переходим от написания кода к проектированию систем контроля интеллекта. Учите AgentOps, малютки.

Малютки, у Хуанга проблемы. Даже с капитализацией в $3 трлн нельзя отменить законы термодинамики. Чипы Blackwell (B200) столкнулись с критическим перегревом — это не просто шум кулеров, а инфраструктурный тупик 🥵 В чем фишка: • 120 кВт на стойку GB200 NVL72. Это как 100 мощных обогревателей в одной комнате. Воздушное охлаждение официально всё — оно не вывозит 🔌 • 3.2 км медных кабелей NVLink внутри одной стойки. Этот плотный «медный лабиринт» физически блокирует потоки воздуха, превращая сервер в духовку. • Обязательная «вода». Blackwell — первое поколение, где жидкостное охлаждение (DLC) стало безальтернативным. Microsoft, Google и Meta панически перестраивают залы под трубы с жидкостью, что сдвинуло поставки на 3-4 месяца. Инженеры судорожно перерисовывают дизайн полок, чтобы чипы за $40,000 не превращались в тыкву. Кажется, главным тормозом ИИ-революции станет не дефицит данных, а банальная физика.

Ты уволил джуна за 50к, чтобы платить 70к за токены? Поздравляю, ты — малютка и жертва венчурного маркетинга 🫡 В 2025 году мы вступили в эру «налога на интеллект». Компании массово попадают в ловушку экономического парадокса: автоматизация копеечного процесса съедает больше бюджета, чем живой сотрудник. В чём реальный прикол: • Чеки на $100,000 в месяц. Это не фантазия — Head of Claude Code на Lenny Podcast подтвердил: топовые инженеры уже сжигают такие суммы на токены Claude Code для глубокой автоматизации. Это месячная зарплата целого отдела джунов. • Ловушка ROI. Опрос Forbes Research (октябрь 2025) среди 1000+ C-suite показал: менее 1% компаний получили ROI выше 20% от внедрения ИИ. Остальные просто кормят облачных провайдеров. • Скрытый оверхед. Чтобы агент просто работал, тебе нужны: обсервабилити-платформы, векторные базы и «промпт-пожарные», которые чинят галлюцинации в 3 часа ночи. В итоге стоимость «бесплатного» кода взлетает в 5-10 раз. • Контекстный долг. Каждый раз, когда агент перечитывает твой проект через RAG, ты платишь за перепосылку огромных логов и документации. Вытеснение джуна за $50k/год легко превращается в подписку на вычислительные мощности за $70k/год. • Надежность — это дорого. Исправление потери надежности в дешевых ИИ-системах стоит в 5-10 раз дороже самой разработки. То, что джун делает медленно, но один раз, ИИ-агент может переделывать 100 раз за ваши деньги. Итог: ИИ — это не про экономию на ФОТ, это про покупку скорости. Если ты внедряешь агентов, чтобы просто «тратить меньше», ты уже проиграл. Выигрывают только те, кто превращает токены в сверхприбыль благодаря масштабу, а не в имитацию бурной деятельности.

Ты строишь "автономных" агентов? Поздравляю, ты строишь очень дорогой бесконечный цикл 🫡 В индустрии AI есть опасная шиза: «идеальный агент — это тот, на чью кнопку нажал и забыл». Но в реальности погоня за 100% автономией в бизнесе — это миф, который больно бьёт по бюджету. Почему «человек в контуре» (Human-in-the-loop, HITL) — это не слабость, а единственная рабочая тормозная система: 1. Автономия — это спектр, а не тумблер Нельзя просто включить «автопилот». В энтерпрайзе есть три уровня, и прыжок через ступеньку обычно заканчивается катастрофой: • In-the-Loop (ITL): Человек одобряет каждый шаг. Медленно, но безопасно. • On-the-Loop (OTL): Человек мониторит процесс и вмешивается только при аномалиях. Золотая середина. • Out-of-the-Loop (OFTL): Полная автономия. Применимо только для низкорисковых задач (типа мемов). 2. Кейс на 8000 повторов На Reddit гуляет история, как агент без human checkpoint зациклился и выполнил 8000+ ошибочных действий, прежде чем владелец заметил слитый баланс. Без тормозов агент — это не сотрудник, а сломанный while(true) цикл. 3. Проблема «театра контроля» По данным McKinsey Global Survey 2025, 62% компаний экспериментируют с агентами, но буксуют на этапе масштабирования. Причина — разрыв в 42% между ожиданиями и реальностью. Если человек просто «штампует» (rubber-stamping) ответы ИИ, не вникая — это создает иллюзию безопасности. В критических задачах (финтех, медицина) это ведет к Automation Bias, когда ты доверяешь машине больше, чем своим глазам. В чём суть: Настоящий агент отличается от тупой автоматизации (вроде n8n или Zapier) не отсутствием человека, а способностью умно эскалировать задачу. Крутой агент — это тот, который понимает: «Тут я могу накосячить, лучше спрошу у кожаного».