Несколько способов модифицировать линейный алгоритм, чтобы выборка стала линейно разделимой:

• Сокращение весов. 1 Этот метод повышает обобщающую способность алгоритма и снижает риск переобучения. 1
• Фильтрация выбросов. 1 Если есть основания полагать, что выборка почти линейно разделима, и лишь объекты-выбросы классифицируются неверно, то можно применить фильтрацию выбросов. 1 Сначала задача решается при некотором значении, затем из выборки удаляется небольшая доля объектов, имеющих наибольшую величину ошибки. 1 После этого задача решается заново по усечённой выборке. 1
• Переход в новое пространство. 1 С помощью преобразования можно перейти от исходного пространства признаковых описаний объектов к новому пространству. 1 Если пространство имеет достаточно высокую размерность, то можно надеяться, что в нём выборка окажется линейно разделимой. 1
• Добавление полиномиальных функций. 2 Границу принятия решения можно сделать более гибкой и нелинейной, включив полиномиальные компоненты более высокого порядка. 2 В изменённом пространстве признаков данные могут стать линейно разделяемыми. 2
• Использование нейронных сетей. 23 Нейронные сети могут обучаться сложным нелинейным отображениям ввода-вывода. 2 Используя более скрытые слои в нейронной сети, можно изучить нелинейную границу принятия решений, которая может классифицировать данные. 2