DevOps&SRE Library

Migrating from Slurm to Kubernetes Moving from Slurm to Kubernetes doesn't have to mean losing the workflow you know. Here's how SkyPilot brings Slurm-like simplicity to K8s. https://blog.skypilot.co/slurm-to-k8s-migration

The Hybrid Cloud Platform Illusion: Why Your On-Prem and Cloud Are Still Strangers I've spent the last few months working on what should have been a solved problem: letting applications running in our on-premises Kubernetes clusters access Google Cloud services. What I found instead was an industry-wide workaround culture built on security anti-patterns, and a surprisingly elegant solution hiding in plain sight. https://medium.com/@shkatara/the-hybrid-cloud-platform-illusion-why-your-on-prem-and-cloud-are-still-strangers-234a90ad89f1

VibeOps: A Secure read-only setup for AI-Assisted Kubernetes Debugging There is a lot of noise right now about letting AI "fix" your infrastructure. When production is acting up, you need to maintain a complete mental model of the system. If you let the AI be the driving force, you lose the overview. https://simon-frey.com/blog/vibeops-kubernetes

Stop Manually Generating Kubeconfigs: Meet KubeUser KubeUser is a kubernetes-native operator that turns user management into a declarative code experience. No more manual certificate juggling — just apply a YAML file, and the operator handles the rest. https://medium.com/@yahya.muhaned/stop-manually-generating-kubeconfigs-meet-kubeuser-2f3ca87b027a

You Don't Have a GIL Problem — You Have a CPU Problem This article documents a real production investigation into latency variance in Python-based microservices running on Kubernetes, revealing how CPU throttling amplifies GIL contention into unpredictable response time spikes. https://medium.com/@prashant_pathak/you-dont-have-a-gil-problem-you-have-a-cpu-problem-24deeadfea4a

Разработчики получают инфраструктуру самостоятельно. DevOps — перестают выполнять однотипные запросы. 18 августа на бесплатном онлайн-вебинаре Orion soft покажет, как работает новая IDP-функциональность HyperDrive: self-service, GitOps, политики безопасности и управление инфраструктурой через Model Context Protocol. Реклама. ООО "Орион", ИНН: ИНН 9704113582, erid: 2Vtzqvqgags

The feedback loops behind Kubernetes For the last decade, Kubernetes has been the backdrop to most of my work: operating clusters, helping build hosted Kubernetes, and writing Kubernetes operators. At PlanetScale, that now means running stateful systems like Postgres and MySQL in production. Kubernetes has many faces, but here I want to talk about one face only: why it is so good at running workloads at scale. People ask me what an operator actually does. The canonical answer is: "it reconciles desired state." This is correct, but it also tells you almost nothing. An operator is a feedback controller. It's the same closed loop that runs a thermostat or keeps your car at a fixed speed on cruise control. In our case, the thing being controlled is a database. I have been building these loops for years, and the best way I know to make them click is to ignore Kubernetes at the beginning. Kubernetes is full of control theory, even if we don't call it that in the day-to-day. Before we look at a single line of Kubernetes, we're going to run a production database by hand and slowly let the feedback loop appear on its own. Then we'll map that loop to Kubernetes, with the pieces production needs: a store, watches, queues, retries, and more. At the end, we'll look at what one of these loops looks like in a real operator. https://planetscale.com/blog/the-feedback-loops-behind-kubernetes

Client’s GKE Cluster Ate Their Entire VPC GKE pod IP exhaustion is one of the few failure modes that gives you no warning before it goes terminal. I recently stepped into a war room where a client’s primary scaling group had flatlined — workloads cordoned, deployments stuck in Pending, and the estimated cost of the stall nearing $15k per hour in lost transaction volume. The culprit wasn’t traffic. It was a /20 subnet that had quietly run out of address space, and a set of GKE allocation defaults nobody had questioned at design time. The IP Math I Uncovered During Triage: https://www.rack2cloud.com/gke-pod-ip-exhaustion-triage-part-1 The Class E Rescue: https://www.rack2cloud.com/gke-ip-exhaustion-fix-part-2

🔥 Приглашаем на бесплатный открытый вебинар курса «Observability: мониторинг, логирование, трассировка»: «Системы логирования: ELK, EFK или Graylog?» 🗓 Когда: 17 августа, 20:00 (мск) Логи — один из ключевых источников информации о состоянии системы. Но без правильно выбранного инструмента они превращаются в хаотичный поток данных, в котором сложно найти причину проблемы. На вебинаре сравним популярные системы централизованного логирования и поможем вам выбрать оптимальное решение под вашу инфраструктуру. Что будет на вебинаре: - Чем отличаются ELK, EFK и Graylog и в каких сценариях каждый стек наиболее эффективен - Как устроен процесс сбора, обработки, хранения и поиска логов - Как организовать централизованное логирование для мониторинга и диагностики распределённых систем - На что обратить внимание при выборе системы логирования для своей инфраструктуры В результате вы: - Получите понимание сильных и слабых сторон ELK, EFK и Graylog - Научитесь выбирать подходящее решение под задачи проекта и инфраструктуры - Узнаете лучшие практики построения централизованной системы логирования - Сможете использовать логи для ускорения диагностики и повышения наблюдаемости сервисов Кому будет полезно: DevOps- и SRE-инженерам, системным администраторам, Backend-разработчикам и архитекторам, которым важно быстро находить причины сбоев и анализировать поведение систем. 👉 Зарегистрируйтесь https://vk.cc/d0m7Cs Бесплатное занятие приурочено к старту курса «Observability: мониторинг, логирование, трассировка», на котором вы научитесь строить современные системы наблюдаемости с Prometheus, Grafana, ELK, Tempo и другими инструментами. Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576, erid: 2VtzqvHEFpX

What Does 4.4% GPU Utilization Actually Mean? A few weeks after publishing the 1M token/s post, I spent a weekend helping my good friend Milko Ilari set up vLLM on his shiny new DGX Spark with Gemma 4. My first in-person reaction was “It’s Champagne” (from the old days of PC Perspective) The Spark is a wild little machine — 128 GB of unified memory in a box you can hold with one hand, running the same Blackwell architecture as the datacenter B200s. But its memory bandwidth is 273 GB/s. The B200s in our cluster do 8,000 GB/s. Almost 30x less. Watching the numbers on that tiny machine got me thinking. The benchmark I ran on GKE Autopilot with 96 B200 GPUs had reported 4.4% FLOPS utilization. 10.9% memory bandwidth. Tensor cores active 1.5% of the time. The GPUs looked almost idle while pushing a million tokens per second. Was something wrong? No. And honestly, figuring out why turned out to be more interesting than the benchmark itself. That first post covers the journey — every optimization, and many failure 🫠. This one covers the physics. https://medium.com/google-cloud/what-does-4-4-gpu-utilization-actually-mean-ee61fabebbf0

❗️Небольшое уточнение к предыдущему посту: в нём была указана некорректная ссылка на бота. Актуальная ссылка для получения доступа к эфиру: @shortcut_devops_bot

noisia Harmful workload generator for PostgreSQL. https://github.com/lesovsky/noisia

🔍Тестовое собеседование с Head of DevOps уже завтра 11 августа(уже завтра!) в 19:00 по мск приходи онлайн на открытое собеседование, чтобы посмотреть на настоящее интервью на Middle DevOps-разработчика. Как это будет: 📂 Александр Хренников, Head of DevOps в KTS с опытом 14+ лет, будет задавать реальные вопросы и задачи разработчику-добровольцу 📂 Александр будет комментировать каждый ответ респондента, чтобы дать понять, чего от вас ожидает собеседующий на интервью 📂 В конце можно будет задать любой вопрос Александру Это бесплатно. Эфир проходит в рамках менторской программы от ШОРТКАТ для DevOps-разработчиков, которые хотят повысить свой грейд, ЗП и прокачать скиллы. Переходи в нашего бота, чтобы получить ссылку на эфир → @shortcut_devops_bot Реклама. О рекламодателе.

ZeroFS ZeroFS serves S3-compatible buckets as POSIX filesystems over NFS and 9P, and as raw block devices over NBD. All three servers run in a single userspace process. Data is compressed and encrypted before upload. https://github.com/Barre/ZeroFS

kubernetes-mcp-server A powerful and flexible Kubernetes Model Context Protocol (MCP) server implementation with support for Kubernetes and OpenShift. https://github.com/containers/kubernetes-mcp-server

davit A native macOS UI for Apple's container platform — think OrbStack/Docker Desktop, but for the Linux-containers-as-lightweight-VMs stack Apple ships for Apple silicon. https://github.com/wouterdebie/davit

OfficeCLI OfficeCLI is the first and best Office suite purpose-built for AI agents to read, edit, and automate Word, Excel, and PowerPoint files. Free, open-source, single binary, no Office installation required. https://github.com/iOfficeAI/OfficeCLI