Как работает CMA-ES для оптимизации гиперпараметров в Optuna

Представьте, что вам нужно найти минимум сложной функции, о которой у вас есть минимальная информация: нет градиента, производных, а иногда даже явного аналитического выражения, но есть возможность подставлять значения и смотреть результат. В таких задачах классические методы оптимизации часто оказываются бесполезны: они застревают в локальных минимумах или требуют информации, которой нет. Здесь нам поможет CMA-ES — алгоритм, который не просто перебирает точки, а постепенно учится форме функции и подстраивает стратегию поиска. В этой статье разберём, как он устроен и почему работает так эффективно.

https://habr.com/ru/articles/1025274/

#optuna #математика #математическая_статистика #математический_анализ #машинное_обучение

Как научить планшет видеть несколько объектов в кадре одновременно: multi-label классификация

Представьте, что вам нужно научить камеру планшета почти мгновенно определять, что происходит в кадре. И это не просто «автомобиль» или «человек»: нужно различать и связывать разные категории объектов: документы, людей, QR, штрихкоды и так далее. Казалось бы, достаточно взять предобученную модель и заточить для запуска на конкретном железе, в нашем случае это планшет KVADRA_T. Привет, Хабр! Меня зовут Анастасия Шпилёва и я работаю в команде разработки программных ИИ-компонент MLKit компании YADRO. В статье расскажу, почему я остановилась на multi-label классификации изображений. А также — как я собирала, размечала и валидировала датасет, от которого во многом зависит эффективность модели.

https://habr.com/ru/companies/yadro/articles/1006054/

#ai #компьютерное_зрение #kvadra_t #kvadraos #gemini #gpt #qwen #optuna #claude #mobilenet

🚀 Our latest benchmark shows hyperparameter tuning with Optuna hits 0.9617 validation accuracy in just 64.59 seconds! Using Bayesian optimization and the Tree‑structured Parzen Estimator, we ran 100 trials to squeeze out every percent. Dive into the details of the experiment and see how you can apply these tricks to your own models. #HyperparameterTuning #Optuna #BayesianOptimization #ModelOptimization

🔗 https://aidailypost.com/news/hyperparameter-tuning-reaches-09617-accuracy-6459-seconds

AI 검열 자동 제거 도구 Heretic: 성능 손실 최소화하며 거부율 97%→3%로

https://aisparkup.com/posts/6592

When I started developing Hypnagonia 3 years ago, I didn't envision it would lead me to a path of training neural networks, and yet here we are...

#neuralnetworks #Optuna #AIHorde

Подбор гиперпараметров RAG-системы с помощью Optuna

Сказ о том, как с помощью Opuna’ы сделать вашу RAG-систему чуточку (а может и не чуточку) эффективнее :)

https://habr.com/ru/articles/811239/

#rag #llm #transformers #data_science #optuna #machinelearning #huggingface