Как метод k-ближайших соседей используется в машинном обучении?

Метод k-ближайших соседей (K-Nearest Neighbors, KNN) используется в машинном обучении для задач классификации и регрессии. sky.pro infostart.ru

Для классификации алгоритм определяет класс нового объекта путём «голосования» среди K ближайших соседей. infostart.ru Новому объекту присваивается тот класс, который чаще всего встречается среди K соседей. infostart.ru Например, если k = 1, то класс присваивается ближайшему соседу. infostart.ru Если k = 3, то алгоритм выбирает 3 ближайших соседа и присваивает классу объекта класс, который чаще всего встречается среди этих трёх. infostart.ru

Для регрессии предсказанное значение — это среднее значение целевой переменной (например, цены) среди K ближайших соседей. infostart.ru

Некоторые области применения KNN: анализ данных, распознавание образов, прогнозирование. infostart.ru

Метод не требует обучения модели, так как сохраняет все обучающие данные и использует их непосредственно для классификации новых объектов. sky.pro

Однако у KNN есть и недостатки: высокая вычислительная сложность, чувствительность к шуму и выбросам в данных, а также сложность выбора оптимального значения K. sky.pro dzen.ru