Практическая устойчивость значений Шепли в интерпретации моделей ИИ
Привет, Хабр! В исследованиях и на практике значения Шепли (Shapley values) — один из наиболее популярных методов интерпретации как на практике, так и в исследованиях. На практике этого не делается — применяется аппроксимация. Отсюда возникают вопросы, ответы на которые мы рассмотрим с вами в этой статье :)
Использование теории игр для повышения прозрачности моделей машинного обучения
Интерпретация современных моделей машинного обучения может быть чрезвычайно сложным делом учитывая, что количество параметров и весовых коэффициентов может идти на тысячи и даже миллионы. Тем не менее это совершенно необходимо, для повышения качества, обеспечения стабильности и предсказуемости работы модели. В этом нам может помочь теория игр, математическая дисциплина позволяющая выделить из сложного взаимодействия факторов модели отдельный вклад каждого в конечное предсказание.
https://habr.com/ru/articles/795957/
#теория_игр #машинное+обучение #интерпретация #чёрный_ящик #математика #shapley_values #shap #feature_importance #data_science
Habr
