В чем заключается феномен проклятия размерности?

«Проклятие размерности» — явление, которое возникает в анализе данных и машинном обучении в пространствах высокой размерности и связано с ухудшением работы обучаемых моделей, построенных на большом числе признаков. wiki.loginom.ru

Некоторые проблемы, с которыми связано «проклятие размерности»:

• Увеличение вычислительных затрат при работе аналитических алгоритмов из-за необходимости обрабатывать большее число переменных. wiki.loginom.ru
• Увеличение объёма пространства признаков при сохранении неизменным числа наблюдений в обучающих данных. wiki.loginom.ru В результате данные перестают покрывать достаточную область пространства признаков, их становится недостаточно для построения качественной аналитической модели. wiki.loginom.ru
• Искажение формы статистических законов распределения с увеличением размерности: снижается их локализация около среднего значения. wiki.loginom.ru Это негативно влияет на работу статистических моделей. wiki.loginom.ru
• Снижение выразительности представления в данных зависимостей и закономерностей, выраженности кластерных структур из-за того, что с ростом числа измерений попарные расстояния между векторами объектов стремятся к одному значению. wiki.loginom.ru

Впервые термин «проклятие размерности» ввёл Ричард Беллман применительно к общей задаче динамического программирования. ru.ruwiki.ru ru.wikipedia.org