Умный Learning Rate Scheduler: Управляем скоростью обучения, анализируя ускорение

Классический ReduceLROnPlateau снижает скорость обучения, когда уже поздно модель упёрлась в плато. Я покажу, как сделать шедулер, который замечает замедление заранее, анализируя ускорение улучшений.

https://habr.com/ru/articles/960340/

#deep_learning #pytorch #machine_learning #learning_rate #optimization #ai