Как ошибка обучения влияет на качество прогнозирования в машинном обучении?

Ошибка обучения может негативно влиять на качество прогнозирования в машинном обучении, особенно в случаях переобучения и недообучения. 35

Переобучение возникает, когда алгоритм обучения вырабатывает предсказания, которые слишком близко или точно соответствуют конкретному набору данных и поэтому не подходят для применения алгоритма к дополнительным данным или будущим наблюдениям. 5 В таком случае небольшая средняя ошибка на обучающей выборке не обеспечивает такую же малую ошибку на тестовой выборке. 5

Недообучение, в свою очередь, происходит, когда алгоритм обучения не обеспечивает достаточно малой величины средней ошибки на обучающей выборке. 5 Независимо от объёма обучающего датасета как на обучающей выборке, так и на тестовой выборке небольшая средняя ошибка не достигается. 5

Чтобы алгоритм машинного обучения считался надёжным, ошибка на этапе тестирования (эксплуатации) должна согласовываться с ошибкой обучения. 2 Это означает, что производительность (качество) работы системы остаётся стабильной на новых данных. 2