Объясните, что такое регуляризация и почему она полезна



Регуляризация в области машинного обучения — прием, который заключается в наложении дополнительных ограничений на условие задачи с целью предотвратить переобучение системы или решить некорректно поставленную задачу. В большинстве случаев эти ограничения выражаются в виде штрафа за избыточную сложность модели.



Прогнозы модели должны затем минимизировать функцию потерь, вычисленную на регуляризованном обучающем наборе.