Bias в контексте машинного обучения — это систематическая ошибка или отклонение предсказаний модели от фактических результатов. 5 Другими словами, это форма неточности в модели, которая возникает, когда модель делает предположения или обобщения на основе ограниченных или неполных данных. 5

Высокий bias говорит о том, что модель недостаточно гибкая, она не смогла извлечь всю информацию о закономерностях в данных. 1

Bias может возникать из-за перекошенного или несбалансированного набора данных, неполного представления признаков или использования предвзятых алгоритмов. 5

Например, нейронная сеть, принимающая решения о выдаче кредита малому предпринимательству на основании исторически смещённых в пользу белокожих мужчин данных, чаще отказывает в кредите афроамериканцам и женщинам. 2