Разница между мягким и твёрдым разделительным знаком в русской орфографии заключается в их употреблении:

• Разделительный твёрдый знак (Ъ) используется только после приставок, оканчивающихся на согласную букву, за которыми следует гласная Е, Ё, Ю или Я. 34 Также он пишется в сложных словах, первую часть которых образуют числительные ДВУХ-, ТРЁХ- и ЧЕТЫРЁХ-, за которыми следует гласная Е, Ё, Ю или Я. 3
• Разделительный мягкий знак (Ь) ставится в середине корня слова после мягких согласных перед буквами Е, Ё, Ю, Я, И. 12 Ещё он встречается в некоторых словах иностранного происхождения перед буквой О. 3

Таким образом, твёрдый знак используется для разделения приставки и корня, а мягкий знак — для разделения частей слова внутри корня. 24