Как ошибка обучения влияет на качество прогнозирования в машинном обучении?

Ошибка обучения может негативно влиять на качество прогнозирования в машинном обучении, особенно в случаях переобучения и недообучения. habr.com neerc.ifmo.ru

Переобучение возникает, когда алгоритм обучения вырабатывает предсказания, которые слишком близко или точно соответствуют конкретному набору данных и поэтому не подходят для применения алгоритма к дополнительным данным или будущим наблюдениям. neerc.ifmo.ru В таком случае небольшая средняя ошибка на обучающей выборке не обеспечивает такую же малую ошибку на тестовой выборке. neerc.ifmo.ru

Недообучение, в свою очередь, происходит, когда алгоритм обучения не обеспечивает достаточно малой величины средней ошибки на обучающей выборке. neerc.ifmo.ru Независимо от объёма обучающего датасета как на обучающей выборке, так и на тестовой выборке небольшая средняя ошибка не достигается. neerc.ifmo.ru

Чтобы алгоритм машинного обучения считался надёжным, ошибка на этапе тестирования (эксплуатации) должна согласовываться с ошибкой обучения. cyberleninka.ru Это означает, что производительность (качество) работы системы остаётся стабильной на новых данных. cyberleninka.ru