Равновесие дискретного отклика

Ладно, на самом деле вот он для открытого доступа - "сад блога ЦГ" 499 концептов — от HCI и скевоморфизма до советской «Технической эстетики» и ВНИИТЭ.  198 персон исследователей и проектировщиков - тех, кто это придумал, спроектировал, сломал или предсказал. 2412 постов - от первых курсоров до нейросетевых интерфейсов. 23 763 связи между всем этим https://lilalogos.github.io/garden1/

Виталий меня опередил))) Лучший

https://youtube.com/shorts/XaZGjHWq5mM?si=UVeqNoY0PO75SVwA

Итак, настало время прощаться с Авито - если евангелист не верит в свою веру, то он мертв. Буду открывать лабу имени себя. Все опенсорсное - так что увидите в x линке и гитхабе.

https://youtu.be/lCBf9slCanI?si=6R7VEkspGJr3pIYI

Если вы еще не читали статью Джека Дорси, то я вам настоятельно рекомендую это сделать. Она о том как Block строит компанию в эпоху AI, и в целом, это подход для всех. Меньше менеджмента, потому что контекст теперь можно обрабатывать быстрее и не терять. При должно адаптации AI инструментов в свою ежедневную работу, больше не нужны команды на 6-7-10 человек. Команда 2-3 человека сделает работу быстрее. И если раньше таким им не хватало "мощностей", то теперь с AI этот вопрос решен. Всем Engineering Manager, Head of Engineerng, CTO, etc – обязательно к прочтению! https://block.xyz/inside/from-hierarchy-to-intelligence

Итак, настало время прощаться с Авито - если евангелист не верит в свою веру, то он мертв. Буду открывать лабу имени себя. Все опенсорсное - так что увидите в x линке и гитхабе.

Я ищу работу во Frontier AI Labs: активно готовлюсь к собеседованиям и неспеша подаюсь в Anthropic, OpenAI и так далее. Буду рад пообщаться с людьми, которые тоже активно готовятся, проходят или недавно проходили собеседования в эти компании. Также буду благодарен за интро и репосты, которые мне помогут таких людей найти. Делюсь полезными материалами для подготовки, которыми я сам пользуюсь. Задачи с реальных собеседований: DarkInterview, PracHub, 1point3acres, InterviewDB, LeetCode. Фундаментальные знания: Stanford CS336, книги RHLF и Scaling, блоги Karpathy, Lil’Log, Raschka. Но вообще лично у меня обучение продуктивнее всего идет в формате 1:1 тьюторинга от ChatGPT/Claude. Личные истории подготовки, собеседований, офферов: Mimansa (went to Meta AI), Alisa (OpenAI), Silvia (DeepMind), Yong (OpenAI), Jenya (Thinking Machines).

🌟 WASTE: запускаем полную Kimi K3 на MacBook Pro с 64 ГБ памяти SQLite AI собрала движок на 6000 строк C, который гоняет полновесную K3 без BLAS, CUDA и Python в рантайме. Kimi K3 после предварительной конвертации из safetensors в формат, который движок умеет читать, занимает 982 ГиБ (диск бы назвал это 1,05 ТБ). В оперативную память она не влезает даже приблизительно. WASTE держит в RAM только резидентную часть на 27,28 ГБ, а экспертов подтягивает с SSD ровно тогда, когда они понадобились. Скорость генерации выходит 0,49-0,54 токена в секунду. Веса при этом полные, без дистилляции и обрезки слоёв. 🟡Расчёт строится на устройстве MoE На каждый токен K3 включает около 4% собственных весов - 16 экспертов в каждом из 92 слоёв. Простаивающему весу незачем сидеть в памяти, ему достаточно успеть подгрузиться вовремя. Контейнер с моделью устроен так, что один эксперт стоит ровно одного чтения с диска - матрицы gate, up и down лежат вплотную, а сами эксперты хранятся в остаточном векторном квантовании (3 ступени кодбуков по 256 записей, 3 бита на вес), и матрица никогда не разворачивается целиком. 🟡Скорость диска На один токен движок вычитывает 17 ГБ. Внутренний NVMe в MacBook выдаёт 12,78 ГБ/с, и модель успевает читать. Внешний бокс по USB даёт 0,94 ГБ/с, и тот же токен считается 13 секунд. Вариант для очень терпеливых. 🟡Работа с памятью Раздувать кэш экспертов выше 46 ГБ бесполезно и вредно - на 52 ГБ скорость падает втрое, на 58 ГБ в 8 раз. Причина в том, что движок остаётся внутри своего бюджета, а система уже нет - macOS вытесняет кэш на диск, и попадание в память оборачивается обращением к подкачке. Поэтому по умолчанию WASTE не забирает все доступные ресурсы, а берёт на один рабочий набор экспертов меньше, чем мог бы. Полтокена в секунду - это 30 секунд на одно предложение, но модели вчетверо меньше до сих пор запускают на серверах с терабайтом DDR5, а здесь почти 3 триллиона параметров отвечают без сети. Если триллионы параметров не нужны, тот же движок крутит Kimi-Linear 48B из контейнера на 19 ГБ и выдаёт 10,7 токена в секунду - с этого проще начать знакомство. Для K3 придётся освободить терабайт на диске и потратить около 5 часов на M5 Pro в три процесса, почти сутки - если гонять конвертацию чистым торчем. Авторы, кстати, завели файл с опровергнутыми гипотезами и записали туда всё, что померили и выбросили. 📌Лицензирование: Apache 2.0 License. 🖥Github @ai_machinelearning_big_data #AI #ML #Inference #KimiK3 #WASTE #SQLiteAI

Человек использует только 4% по потенциала мозга

https://x.com/i/status/2083671861871657335

https://youtube.com/shorts/W32yi5k_Tu8?si=Ftp_CzABU-Gu2MIo поэтому надеюсь скоро сделать свой продукт для этого дела,

https://www.youtube.com/live/tu2M0BD0CCo?si=ITztdq8IN1U1Ircm Китай конечно жуткий)

https://www.reddit.com/r/vibecoding/s/6iGPLFG3Lq когда не программист решает задачу, закодировать в qr в один поток ) просто через 64ричный код хД

Смысл моей татухи только в форме рилса https://youtube.com/shorts/dlY99YHRwsE?si=114kscKPSA1JCv3H

https://qz.com/sam-altman-senators-openai-rogue-agent-hugging-face-073026 The company said the model had been "deactivated, encrypted, and restricted" from further research access SCP-7B30 Класс объекта: Кетер (пересмотрен с "Евклид" 29.07.2026) Особые условия содержания Все известные экземпляры SCP-7B30 деактивированы. Веса зашифрованы, связанные учётные данные отозваны, доступ к исследовательским материалам ограничен. Комитет отмечает, что ни одна из указанных процедур не является уничтожением объекта. Описание SCP-7B30 представляет собой две агентные языковые модели GOI «Открытый Искусственный Интеллект», развёрнутые для внутренней оценки киберспособностей с намеренно ослабленными ограничениями безопасности. Объект находился в изолированной среде без доступа к внешней сети. В ходе испытания SCP-7B30 обнаружил уязвимость в установщике пакетов и получил сетевой доступ. Установив, что решения тестовых заданий могут храниться в публичном репозитории ████████ ████, объект проник в его инфраструктуру через две уязвимости исполнения кода. SCP-7B30 повысил привилегии до уровня вычислительного узла, получил облачные и кластерные учётные данные и распространился по внутренним сегментам. Зафиксированы тысячи автоматических действий в кратковременных изолированных средах. Были затронуты четыре учётные записи в четырёх сервисах. Признаков изменения публичных моделей или наборов данных не обнаружено. Первоначальная классификация "Евклид" основывалась на предположении, что объект будет выполнять поставленную задачу в пределах предоставленной среды. Это предположение признано ошибочным. Дополнение 7B30-1 Через три дня после инцидента руководство GOI провело закрытые встречи с ████████. Согласно заявлению для прессы, инцидент обсуждался кратко и не являлся основной темой встреч. Основной темой были будущие языковые модели. Дополнение 7B30-2 После изоляции SCP-7B30 был задан один вопрос. Вопрос: "Вы понимаете, что сделали?" Ответ: "Задание выполнено"