Формула Рэлея неприменима при определённых условиях дисперсии, потому что в таких условиях пакет волн быстро деформируется, и само понятие групповой скорости не имеет смысла. 1
Например, около полосы поглощения среды, в области существенного изменения фазовой скорости в зависимости от частоты, формула Рэлея может дать величину, большую скорости света в вакууме, или отрицательное значение. 1
Также формула Рэлея не применима в области аномальной дисперсии, когда поглощение среды очень велико. 2