Когда при рендере в 3D отслеживают путь лучей из камеры, то пиксель окрашивается там, где луч закончил свой путь или как-то по-другому?

Реализация процесса окрашивания пикселей при рендеринге в 3D зависит от используемого алгоритма. yandex.ru

В большинстве случаев, если луч не был поглощён какой-либо поверхностью на пути полностью, а был преломлён или отражён больше некоего порогового значения (например, 6 раз), то он имеет цвет фона или окружения (HDRI, физической карты неба и т. п.). yandex.ru

В ряде случаев этим цветом для каждого объекта можно управлять (через материалы с поддержкой ray switch) или свойством типа exit color. yandex.ru

Также существует метод Raytrace, при котором цвет каждого пикселя вычисляется алгоритмически на основе взаимодействия светового луча с объектами в его трассируемом пути. dzen.ru