Нет однозначного мнения о том, какая метрика линейной регрессии является наиболее информативной. Выбор зависит от типа данных и задачи. 4

RMSE (или MSE) считаются информативными, если в данных нет очень больших выбросов (качественные данные, например, собранные исправными датчиками). 1

MAE эффективна, если ничего не известно о данных или есть уверенность, что в них есть выбросы (некачественные данные, например, которые вводились людьми с клавиатуры). 1

Коэффициент детерминации R² подходит, чтобы сравнивать обученные на разных данных модели и оценивать обобщающую способность. 3 Чем ближе метрика к единице, тем лучше обобщающая способность модели и точность предсказания. 3

Таким образом, выбор метрики зависит от конкретных условий задачи.