От диплома до продакшена: … Часть 7: Инфра, MLOps и уроки масштабирования

3.3. Что я сделал бы иначе Закладывал бы MLOps с первого дня , а не «сначала модель, потом инфраструктура». Параллельно — дешевле. Автоматизировал бы тестирование данных раньше. Самые неприятные баги — не в коде, а в «тихом» изменении распределения. Завёл бы playbook для инцидентов. Когда что-то падает в три часа ночи, нужен чеклист, а не паника. Глава 4. Чеклист: готов ли проект к масштабированию Это самая практичная часть — её можно унести с собой.

https://habr.com/ru/articles/1041706/

#MLOps #масштабирование #продакшн #машинное_обучение #искусственный_интеллект #мониторинг_моделей #дрейф_данных #Kubernetes #MLflow #CICD

RE: https://mathstodon.xyz/@xameer/116457872063761075

just trying logistic regression wiht #MLflow
no sophisticated #machinglearning yet

Как я уместил весь MLOps-пайплайн в 10 строк

В последнее время я часто работал с разными ML-проектами в GitLab. В каждом был свой .gitlab-ci.yml , своя обвязка вокруг MLFlow, своя регистрация и валидация модели. Со временем я понял, что MLOps-пайплайн во всех проектах очень похож, а при работе с новыми копипаста размножается быстрее кроликов. Ну и тут уже хочешь не хочешь, но идея сделать общий шаблон напрашивается. Однако будем честны, обычный template для CI — это круто, но хочется чего-то гибкого, декларативного и красивого. Для достижения этих целей GitLab уже давно предлагает переходить на CI/CD компоненты . В результате я хотел видеть 10 строк YAML, которые будут выдавать полноценный пайплайн с валидацией данных, обучением, quality gates и регистрацией модели. И спустя месяц я добился желаемого. В этой статье покажу, как устроен компонент, на какие грабли наступал по пути, и как подключить всё это в ваш проект. Сам компонент.

https://habr.com/ru/companies/ruvds/articles/1013854/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1013854

#mlops #gitlab #gitlabci #ml #mlflow #ruvds_статьи

Как я уместил весь MLOps пайплайн в 10 строк

В последнее время я часто работал с разными ML-проектами в GitLab. В каждом был свой .gitlab-ci.yml , своя обвязка вокруг MLFlow, своя регистрация и валидация модели. Со временем я понял, что MLOps пайплайн во всех проектах очень похож, а при работе с новыми копипаста размножается быстрее кроликов. Ну и тут уже хочешь не хочешь, но идея сделать общий шаблон напрашивается. Однако будем честны, обычный template для CI — это круто, но хочется чего-то гибкого, декларативного и красивого. Для достижения этих целей GitLab уже давно предлагает переходить на CI/CD компоненты . В результате я хотел видеть 10 строк YAML, которые будут выдавать полноценный пайплайн с валидацией данных, обучением, quality gates и регистрацией модели. И спустя месяц я добился желаемого. В этой статье покажу, как устроен компонент, на какие грабли наступал по пути, и как подключить всё это в ваш проект. Сам компонент.

https://habr.com/ru/companies/ruvds/articles/1013854/

#mlops #gitlab #gitlabci #ml #mlflow #ruvds_статьи

We’re looking for a way to version and catalogue self-trained deep learning models (training data, code revision, etc.) from our Tissue-Concepts family of medical foundation models.

We’ve briefly looked at #W&B, #MLflow (now integrated into GitLab), and intensely tried storing more-or-less-documented model snapshots to disk.

Has anyone had good or bad experiences with these tools in research / medical ML settings? Any recommendations?

#ComputationalPathology #datascience #deeplearning