В чем разница между кодированием в индексном цвете и без него?

Возможно, имелось в виду различие между полноцветным кодированием и кодированием с использованием индексного цвета.

Полноцветное кодирование позволяет однозначно определять большое количество цветов, например, в системе RGB — 16,5 млн цветов. foxford.ru

Кодирование с использованием индексного цвета, в свою очередь, предполагает передачу ограниченного количества цветов, например, 256 оттенков. foxford.ru При таком способе каждый цвет кодируется при помощи восьми бит данных. foxford.ru Так как эти значения не передают весь диапазон цветов, доступный человеческому глазу, к графическим данным прилагается палитра (справочная таблица). foxford.ru

Таким образом, разница заключается в том, что при полноцветном кодировании можно передать больше цветов, а при использовании индексного цвета — только определённый набор оттенков.

Индексное кодирование используется, когда нужно сэкономить память компьютера и хранение файлов, а также ускорить обновление дисплея и передачу файлов. en.wikipedia.org