Чередование звуков г/ш в русском языке происходит из-за закона I-ой палатализации, который действовал в дописьменный период. 1
Суть закона в том, что заднеязычные согласные звуки г, к, х, оказавшись перед гласными переднего ряда и, э, ь и др., перешли в мягкие шипящие согласные звуки: г → ж, к → ч, х → ш. 2 Впоследствии в древнерусском языке согласные ж и ш отвердели. 2
Примеры чередования: нога — ножка, плакать — плачу, муха — мушка. 3
Также чередования звуков могут возникать и в соответствии с фонетическими законами современного русского языка — это позиционные (фонетические) чередования. 3