Линейный классификатор может допускать ошибки на тренировочной выборке по нескольким причинам:

• Переобучение. 1 Если параметров слишком много либо не хватает регуляризации, алгоритм может «отвлекаться» на шум в данных и упускать основной тренд. 1
• Слабая модель. 1 Если модель слабая, то она не в состоянии выучить закономерность, в результате выучивается что-то другое, смещённое относительно правильного решения. 1
• Линейная неразделимость выборки. 24 В таком случае нельзя найти линейный классификатор с нулевой ошибкой на тренировочной выборке. 2

Ошибки на объекте тренировочной выборки линейный классификатор допускает в двух случаях: когда модель относит объект к неправильному классу (например, когда модель относит объект из класса -1 к классу 1). 2