ML-пайплайны в Kubernetes: от первой строки кода до автоскейлинга и за его пределами

Ваша ML-модель работает в ноутбуке, а в продакшене — нет. Бывало такое? Именно здесь начинается настоящая инженерная задача: взять эксперимент из Jupyter-ноутбука и превратить его в воспроизводимый, наблюдаемый и масштабируемый пайплайн — от сырых данных до стабильного инференса под реальной нагрузкой. Kubernetes давно стал де-факто стандартом для этой работы: более 70% компаний используют его в продакшене — это не дань хайпу, это прагматичный выбор тех, кто уже наступал на грабли. В этой статье разберем, почему K8s выигрывает у альтернатив именно для ML-нагрузок, а также обсудим какие мифы и анти-паттерны тормозят команды на пути к продакшену. Пройдемся по полному стеку: от подготовки кластера и фиксации данных через DVC до canary-деплоя модели и автоскейлинга GPU-подов. В конце вас ждет взгляд на то, куда движется индустрия: serverless-ML, multi-LLM-ops и edge-развертывания. Если вы DevOps- или MLOps-инженер, которому приходится запускать обучение и инференс в одном кластере, или R&D-инженер, чьи модели «магически ломаются» при переходе в прод — читать обязательно.

https://habr.com/ru/companies/cloud_ru/articles/1011810/

#Kubernetes #MLOps #ML_pipeline #KServe #TFX #DVC #HPA #Prometheus #Grafana #DevOps

ML-пайплайны в Kubernetes: от первой строки кода до автоскейлинга и за его пределами

Ваша ML-модель работает в ноутбуке, а в продакшене — нет. Бывало такое? Именно здесь начинается настоящая инженерная задача: взять эксперимент из Jupyter-ноутбука и превратить его в...

Хабр

Как превратить хаотичный ML-проект в систему: пошаговый гайд по DVC + GitHub Actions

Пора строить систему, которая собирается за вечер на двух инструментах: DVC и GitHub Actions . Этот пост - пошаговый гайд , как превратить хаос в полноценный CI/CD‑пайплайн. Без кубернетесов, без сложной инфраструктуры. Зато с автоматизацией, воспроизводимостью и твоим спокойствием :) Начнем ↓ ⠀⠀

https://habr.com/ru/articles/973268/

#ml #data_science #базы_данных #devops #машинное_обучение #dvc #github_actions #mlops #воспроизводимость #python

Как превратить хаотичный ML-проект в систему: пошаговый гайд по DVC + GitHub Actions

Если ваш эксперимент нельзя воспроизвести командой  git checkout && dvc pull , а model_final_v2_new.pth - норма, у вас проблема с ML-инженерией. Дело в воспроизводимости , которую вы...

Хабр
DVCをSageMakerのトレーニングジョブで利用する方法 - Qiita

背景 最近、 DVC を使ってデータセットをバージョン管理している環境で、Amazon SageMaker (以下SageMaker) を使ったトレーニングを行う機会がありました。 DVCをSageMakerで使うやり方がいまいちよくわかっていなかったので、調べた結果を備...

Qiita
citkoOutdoor Cloud-Service "Sprengstoffverwaltung"

Mit dem Softwarepaket citkoOutdoor bietet die nextgov iT eine modulare Softwarelösung für Verwaltungsverfahren im Ordnungsbereich öffentlicher Verwaltungen, die sich im weitesten Sinne mit Aktivitäten im Waffen- und Outdoor-Bereich befassen. Da es s…

CSP Prod Shop
If it's a dull trash can with no theme or personality, it's probably from Disney's Hilton Head Island Resort.

🌐 | https://buff.ly/595xgqu
📷 | Kara Miller

Used by Permission. #MagicalTrash #Disney #TrashCan #DisneyTrashCan #Photography #HiltonHead #DVC

If it's a dull trash can with no theme or personality, it's probably from Disney's Hilton Head Island Resort.

🌐 | https://www.magicaltrash.com/post/660908842144694272/disney-trash-can-dvc-hilton-head-2016
📷 | Kara Miller

Used by Permission. #MagicalTrash #Disney #TrashCan #DisneyTrashCan #Photography #HiltonHead #DVC

If it's a dull trash can with no theme or personality, it's probably from Disney's Hilton Head Island Resort. 🌐 | buff.ly/595xgqu 📷 | Kara Miller Used by Permission. #MagicalTrash #Disney #TrashCan #DisneyTrashCan #Photography #HiltonHead #DVC

#DVC | Neue Möglichkeiten zur Modularisierung, Automatisierung und Skalierung von Verwaltungshandeln durch die Deutsche Verwaltungscloud

https://www.kgst.de/documents/20181/34177/B09-2025_Die+deutsche+Verwaltungscloud_.pdf/eb51cc0d-8203-7e96-c216-f21a53e15bc4

Die Deutsche Verwaltungscloud (DVC) soll Behörden digital souverän machen – doch der Bund bleibt außen vor: Die „Netze des Bundes“ sind veraltet und technisch nicht kompatibel. Laut einer Anfrage der Linken fehlen Konzepte, Netz- und Cloud-Architekturen strategisch zu verbinden. Der geplante Umbau soll bis 2030 dauern. Anke Domscheit-Berg kritisiert das als schwerwiegenden Fehler und bemängelt fehlende Leitlinien für Cloud-Entscheidungen. Die Cloudausgaben des Bundes stiegen 2024 auf 286 Mio. €, doch Open Source spielt weiter kaum eine Rolle. Dabei zeigen BKA und ZITiS, dass Open-Source-Software Sicherheit fördern kann. Domscheit-Berg warnt zudem vor Abhängigkeiten von US-Hyperscalern: 32 Dienste seien bereits im Einsatz, meist ohne echte Ende-zu-Ende-Verschlüsselung. Digitale Souveränität müsse höchste Priorität erhalten – als Kanzlerangelegenheit.

#Verwaltungscloud #DigitaleSouveränität #OpenSource #NetzeDesBundes #CloudStrategie #DVC #ITPolitik

Original:
https://background.tagesspiegel.de/digitalisierung-und-ki/netze-des-bundes-zu-alt-fuer-die-deutsche-verwaltungscloud

Spring Break 2025 ended yesterday for us. We're all still in recovery mode, though it seems to be easier for the kiddos to bounce back.

We started vacation by driving down to Wilderness Lodge from Chicago. The drive went better than we expected aside from the final two hours when we were stuck in traffic and kids became stir crazy. It was kind of worth it when Google took us the back way and we got to see the backside of Space Mountain.

After arriving to the resort room, Kid 2 immediately went to the balcony to watch cast members clean the roof. He's an old man at heart.

There's nothing like seeing your name on the Disney TV. #waltdisneyworldresort #wildernesslodge #disneyvacationclub #dvc #disneykid #disneyadult #travel