Почему линейный классификатор может допускать ошибки на тренировочной выборке?

Линейный классификатор может допускать ошибки на тренировочной выборке по нескольким причинам:

• Переобучение. habr.com Если параметров слишком много либо не хватает регуляризации, алгоритм может «отвлекаться» на шум в данных и упускать основной тренд. habr.com
• Слабая модель. habr.com Если модель слабая, то она не в состоянии выучить закономерность, в результате выучивается что-то другое, смещённое относительно правильного решения. habr.com
• Линейная неразделимость выборки. course.omgtu.ru github.com В таком случае нельзя найти линейный классификатор с нулевой ошибкой на тренировочной выборке. course.omgtu.ru

Ошибки на объекте тренировочной выборки линейный классификатор допускает в двух случаях: когда модель относит объект к неправильному классу (например, когда модель относит объект из класса -1 к классу 1). course.omgtu.ru