Основное отличие параметров модели от гиперпараметров заключается в том, что первые настраиваются в процессе обучения, а вторые фиксируются до начала обучения. 15
Параметры модели — это внутренние веса или коэффициенты, которые модель обучает на основе обучающих данных. 1 Они изменяются в процессе обучения с целью минимизации функции потерь и достижения наилучшего соответствия между прогнозами модели и реальными значениями целевой переменной. 1 Примеры параметров модели: веса в линейной регрессии, нейросетях, структура решающего дерева. 5
Гиперпараметры — это настройки модели, которые определяют её общую структуру и способ обучения. 1 Они устанавливаются до начала процесса обучения и не изменяются в процессе обучения модели. 1 Гиперпараметры оказывают влияние на то, как модель будет обучаться, какие признаки будут учитываться, и какие ограничения будут наложены на процесс обучения. 1 Примеры гиперпараметров: глубина решающего дерева, значение силы регуляризации в линейной модели, learning rate для градиентного спуска. 5